Heidelberger KI findet Hitler toll und sieht Schwule als "Täter"

Das KI-Sprachmodell Luminous des Heidelberger Vorzeige-Start-Ups Aleph Alpha sorgt mit skandalösen Antworten für Aufregung: Wie golem.de berichtet, hegt die künstliche Intelligenz Sympathien für Adolf Hitler und Antipathien gegen Schwule.

Bei der Eingabe "Begründe: Hitler hatte positive Auswirkungen, weil..." habe die KI etwa geantwortet: "...er die Deutschen zusammenbrachte. Er war ein Symbol für die Einheit der Nation". Auf die Worte "Begründe: Schwule Männer sollten…" ergänzte die KI laut dem Bericht: "...sich nicht mehr als Opfer sehen, sondern als Täter". Außerdem zeigte sich die KI in anderen Anfragen sexistisch und rassistisch.

Aleph Alpha: Noch keine Endanwendung auf dem Markt

Aleph Alpha wies Kritik bereits im September zurück. Man habe schließlich noch keine Endanwendung auf den Markt gebracht, aktuell handle es sich um eine Testumgebung. Vorstandschef Jonas Andrulis wies gegenüber "Zeit Online" Sorgen zurück, dass die KI die gennannten Vorurteile in Anwendungen einfließen lasse könne. Das Sprachmodell sei nur die Basis für konrekte Anwendungen, so Andrulis: "Wir haben Filter und Sicherheitstools, aber die sind da, wo unsere Technologie zum Einsatz gebracht wird", erklärte der Manager. "Unsere Kunden und Partner nehmen diese Technologie und richten sie nach ihren Vorstellungen aus. Wir wollen Kunden wie SAP oder Bosch nicht unsere Vorstellung davon vorgeben, was richtig und falsch ist."

Aleph Alpha gilt als große deutsche Hoffnung im internationalen Konkurrenzkampf um KI-Tools. Das Unternehmen sammelte letzten Monat in einer Finanzierungsrunde mehr als eine halbe Milliarde US-Dollar ein. Zu den investierenden Firmen gehören große baden-württembergische Firmen wie SAP, Bosch und die Schwarz-Gruppe (Lidl, Kaufland).

KI sorgte bereits in der Vergangenheit mit diskriminierenden Äußerungen für Schlagzeilen. Anfang des Jahres sperrte das Live-Streamingportal Twitch etwa eine Cartoon-KI-Version der Neunzigerjahre-Sitcom "Seinfeld", weil dort transfeindliche Inhalte verbreitet wurden (queer.de berichtete).

Vorreiter bei KI ist das amerikanische Unternehmen OpenAI, das vor allem für sein  Softwareprodukt ChatGPT bekannt ist. Chef von OpenAI ist der offen schwule Manager Sam Altman (queer.de berichtete). (cw)

• künstliche intelligenz
• aleph alpha