IBM Watson raadde naar verluidt kankerbehandelingen aan die ‘onveilig’ en ‘incorrect’ waren
Volgens Stat News maakten de experts die vaststelling nadat ze de software een tijdlang gebruikt hadden.
Stat News onderzocht de documenten die als bijlage waren toegevoegd aan twee presentaties die in juni en juli 2017 werden gegeven door de voormalige onderdirecteur van IBM, Andrew Norden.
De documenten waren erg kritisch tegenover het oncologiesysteem van Watson en stelde vast dat de suggesties waarmee de software op de proppen komt regelmatig niet accuraat zijn.
Een voorbeeld heeft het over een 65-jarige man kreeg een longkankerdiagnose. Daarnaast bleek de man ook nog eens een ernstige bloeding te hebben. Watson suggereerde dat de man zowel chemotherapie zou worden toegediend als het geneesmiddel “Bevacizumab”.
Dat geneesmiddel kan echter leiden tot zeer ernstige hersenbloedingen, en mag daarom ook niet toegediend worden aan personen die al een bloeding hebben.
Volgens het rapport leggen de documenten de schuld bij de training die de dokters kregen van IBM-ingenieurs. Volgens Gizmodo voerden de dokters namelijk hypothetische patiëntengegevens in van Watson, en geen echte patiëntengegevens.
Een meerderheid binnen de doktersgemeenschap vindt het Watson-product ondermaats presteren: de interne documenten tekenen de klachten op van verschillende dokters.
Een vertegenwoordigen van IBM laat aan Gizmodo weten dat Watson for Oncology erop getraind is om oncologen meer dan 13 soorten kanker te laten herkennen en dat de technologie in 230 ziekenhuizen over heel de wereld wordt gebruikt. “Terzelfdertijd hebben we door onze grootschalige toepassing veel bijgeleerd en Watson Health ook verbeterd op basis van de continue feedback die we van klanten ontvingen”, aldus de woordvoerder.
De kritiek die in de interne documenten naar voren komt, weerspiegelt de complexe aard van het ontwikkelen van software zoals die van Watson. Watson houdt echter vol dat ze veilige oplossingen bieden, maar dat die dienen aangevuld te worden door het deskundig advies van een arts.
