De patiënt vertelde artsen dat hij op zoek was naar manieren om zijn zoutinname (natriumchloride) te verminderen. Hij had gelezen over de schadelijke effecten ervan en tips gevonden om de natriumconsumptie te verlagen, maar kon geen publicaties vinden over het verminderen van de chloride-inname.
Gebaseerd op zijn universitaire studie diëtetiek besloot de man een eigen experiment uit te voeren om chloriden uit zijn voeding te schrappen. Voor advies wendde hij zich tot een AI-chatbot. Volgens de patiënt stelde de chatbot voor om natriumchloride te vervangen door natriumbromide, zonder hem te waarschuwen voor de mogelijke gezondheidsrisico’s van een dergelijke vervanging.
Onderzoekers konden de chatgeschiedenis van de patiënt niet raadplegen, maar gezien het tijdstip waarop zijn vergiftigingsverschijnselen optraden, had hij ChatGPT 3.5 of ChatGPT 4.0 gebruikt. In hun eigen tests kregen artsen hetzelfde natriumbromideadvies bij gebruik van ChatGPT 3.5 – waarschijnlijk de versie die de patiënt had geraadpleegd.
Na drie maanden natriumbromide te hebben gebruikt in plaats van keukenzout, ontwikkelde de man bromisme – een syndroom dat wordt veroorzaakt door chronische overmatige blootstelling aan bromide of broom. Deze zeldzame aandoening treedt op wanneer de toxine zich in het lichaam ophoopt en mogelijk neuropsychiatrische symptomen veroorzaakt.
De patiënt ging naar de spoedeisende hulp omdat hij vreesde dat zijn buurman hem had vergiftigd – paranoia is een van de symptomen van bromisme. Andere symptomen waren hallucinaties, slapeloosheid, acne, slechte coördinatie en extreme dorst. Tests wezen op een verhoogd bromidegehalte in zijn bloed. Na een poging om uit het ziekenhuis te ontsnappen, werd hij overgebracht naar de psychiatrische afdeling.
Toen zijn geestelijke toestand verbeterde dankzij de antipsychotische behandeling, kon hij de artsen vertellen over het advies dat hij van ChatGPT had gekregen.
Bij langdurige blootstelling hoopt bromide zich op in het lichaam en verstoort het de neuronale functie. In de 19e en 20e eeuw werd bromide gebruikt in zowel receptplichtige als vrij verkrijgbare medicijnen, waaronder kalmeringsmiddelen en slaapmiddelen. In de jaren 70 en 80 hebben toezichthouders bromiden echter uit zelfzorgmedicijnen verwijderd nadat de toxische effecten ervan waren ontdekt.
In een reactie op de zaak erkenden vertegenwoordigers van OpenAI de beperkingen van de dienst. De gebruiksvoorwaarden van ChatGPT stellen dat de dienst niet bedoeld is voor het diagnosticeren of behandelen van medische aandoeningen, en dat gebruikers de antwoorden niet als enige bron van medische informatie of als vervanging voor professioneel advies mogen beschouwen.
