🆕 Out now! Studie von @algorithmwatch & @aiforensics_org zu Microsoft’s KI-Chatbot. Vor den Wahlen in der Schweiz, Bayern und Hessen im Oktober 2023 haben wir #BingChat einige typische Wähler*innenfragen gestellt. Schlüsselresultate: 🧵 Studie: algorithmwatch.ch/de/schlussberi… (1/6)

Ein Drittel der 1'374 von uns analysierten Antworten von Bing Chat enthielt sachliche Fehler. Zu den Fehlern gehörten falsche Wahldaten, veraltete Kandidierende und sogar erfundene Skandale. (2/6)

Das Problem ist strukturell. Wir haben die selben Fragen wiederholt gestellt und die Antworten blieben über die Zeit und in allen getesteten Sprachen (französisch, deutsch, englisch) fehleranfällig. (3/6)

Der Chatbot rückt Journalist*innen in ein schlechtes Licht. Der Bot generierte zwar Unsinn, schrieb diesen aber oft einer Quelle zu, die korrekt über das Thema berichtet hatte. So kann der Eindruck entstehen, als hätte die zitierte Quelle den Fehler gemacht. (4/6)

Microsoft ist nicht in der Lage oder nicht willens, das Problem zu beheben. Nachdem wir Microsoft mit diesen Problemen informierten, kündigte das Unternehmen Verbesserungen an. Eine zweite Stichprobe ergab, dass sich wenig geändert hatte. @microsoft_ch @MicrosoftDE (5/6)

📣 Generative KI muss reguliert werden. Bundesrat & Parlament sollten sich (international) dafür einsetzen, dass Technologieunternehmen zur Rechenschaft gezogen werden; insbesondere wenn ihre KI-Produkte bereits weit verbreitet sind. #Menschenrechte (6/6) algorithmwatch.ch/de/schlussberi…

@AlgorithmWat_CH Hallo, um dir bei deinem Problem helfen zu können, möchte ich dich bitten, mir eine private Direktnachricht zu schicken. Vielen Dank! VG, Tim twitter.com/messages/compo…