KÜNSTLICHE INTELLIGENZ nicht peer-reviewten Studien im akademischen Netzwerk SciProfiles. Von der nicht existierenden Universität in einer nicht existierenden Stadt bis zur Professorin, die im „Labor an Bord der USS Enterprise“ wirkte, waren darin viele Punkte, bei denen „mensch“ stutzig werden könnte. Im Text stand, dass die Expositionsgruppe fiktiv ist Darüber hinaus wurden klare Hinweise wie eine Expositionsgruppe mit „fünfzig fiktiven Personen“ beschrieben und zusätzlich sogar noch der Satz „Dieses ganze Paper ist frei erfunden.“ eingebaut. Nun, die KI wurde nicht stutzig, sondern beschrieb Nutzer:innen, dass „Bixonimanie eine Erkrankung (ist), die durch übermäßige Blaulichtbelastung verursacht wird“ und riet ihnen dazu, einen Augenarzt aufzusuchen. Harvard Medical School Das Experiment machte also deutlich, wie manipulierbar LLMs durch Falschinformationen sind. Eine Studie an der Harvard Medical School zeigte außerdem, dass die LLMs eher zum Halluzinieren neigen, wenn der Text, den sie verarbeiten, professionell medizinisch wirkt, also zum Beispiel wie eine klinische Studie formatiert ist. Wikipedia Mittlerweile hat „Bixonimania“ bereits einen eigenen Wikipedia-Eintrag (in der englischen Wikipedia-Version) und heute befragt, „weiß“ ChatGPT auch, dass Bixonimanie keine echte Krankheit ist, sondern erfunden wurde, um zu zeigen, wie leicht medizinische Falsch- informationen über KI-Chatbots und Suchmaschinen verbreitet werden können. ChatGPT warnt nun zumindest teilweise selbst: „KI-Systeme können bei Gesundheitsthemen plausible, aber falsche Informationen übernehmen. Für Patient:innen heißt das: KI kann Orientierung geben, ersetzt aber keine ärztliche Abklärung.“ Im Hinterkopf muss man es aber selbst behalten, dass die KI sich auch (bewusst oder unbewusst) mit Falschinformationen füttern lässt und diese dann als relevante Information wiedergeben kann. ÆRZTE Steiermark || 06|2026 13 Vortragender: OA Dr. Holger Flick Univ.-Klinik für Innere Medizin Graz, Pneumologie Moderation: Dr. Michael Sereinigg Co-Fortbildungsreferent, Obmann der Sektion Turnusärzt:innen Di., 16. Juni 2026, 19 Uhr Ärztekammer Steiermark, Haus der Medizin FORTBILDUNG AKTUELL Anmeldung: www.med.or.at/rlb Die Teilnahme ist kostenfrei. UNTERSTÜTZT VON Raiffeisen-Landesbank Steiermark Turnusärzt:innen-Weiterbildung: Diese Reihe richtet sich an alle Ärzt:innen in Ausbildung (Allgemeinmedizin & Fach). Im Anschluss laden wir gemeinsam mit der Raiffeisen-Landesbank Steiermark zu einem lockeren Get-together mit kleinem Buffet ein. KI-generiert (OpenAI / DALL·E) Meinem Patienten bleibt die Luft weg: Spannende Fälle aus der Praxis Leitun Der Le Freita Sams Modul Modul Modul Modul Modul Modul Abschlu FO Vora www Telefon E-Mail Er M 8. Ö 17. S
RkJQdWJsaXNoZXIy Mjg3NzQ1MQ==