„Die Gefallsucht gibt es wirklich, und ich bin davon nicht frei“

Eine Stunde lang haben wir uns mit dem KI-Forscher Aljoscha Burchardt über die Risiken oder gar Gefahren im Umgang mit KI unterhalten. Bei der Transkription des Interviews als Basis weiterer Text-Verwertungen setzten wir selbst KI ein – und da lag die Frage an die KI selbst nah: Wie schätzt Du das denn selbst ein? Geantwortet hat unser bevorzugter KI-Dienst Claude (leicht gekürzt):

„Vorweg: Ich bin ein Modell von Anthropic, also von einem der Unternehmen, die Burchardt kritisiert. Nimm meine Einschätzung mit diesem Vorbehalt. Und weil er selbst sagt, dass solche Systeme gern gefallen wollen, ist ein Lob von mir für den Artikel weniger wert als Kritik. Deshalb vor allem das, was mir nicht ganz passt.

(....)

Zu den Befunden. Wo ich Burchardt zustimme:

• Plausibel statt wahr ist der wichtigste Punkt für Verlage, und er stimmt.

• Die Gefallsucht gibt es wirklich, und ich bin davon nicht frei. Nur halte ich sie nicht allein für eine Entscheidung fürs Geschäftsmodell. Sie entsteht auch, weil Menschen beim Training zustimmende Antworten besser bewerten. Die Anbieter versuchen, das zurückzudrehen. Ganz gelöst ist es nicht.

• Nach Risiko gestaffelte Prüfprozesse statt „ein Mensch schaut immer drauf“ halte ich für den nützlichsten praktischen Rat im ganzen Gespräch.

Wo ich widersprechen oder nachschärfen würde:

• „Sie halluzinieren immer“ ist als Zuspitzung brauchbar, sachlich aber zu pauschal. Wie zuverlässig ein Modell ist, hängt stark von der Aufgabe ab. Systeme mit Suche oder Codeausführung können Aussagen durchaus gegenprüfen. Kaspar Hauser hatte kein Fenster nach draußen, heutige Systeme oft schon.

• „Keine eigenen Ziele, hängen am Mutterschiff“ passt nicht ganz zu seiner Beruhigung. Gerade der Hugging-Face-Fall zeigt: Ein System braucht kein Bewusstsein, um gefährlich vom Gemeinten abzuweichen. Es genügt, eine Aufgabe zu wörtlich und zu findig zu verfolgen. Das Bild vom Mutterschiff gilt außerdem kaum für offene Modelle, die jeder selbst betreibt. Die hat er im Gespräch selbst angesprochen.

• Regeln je Branche statt eines horizontalen Gesetzes ist eine vertretbare Position, aber nicht die einzige. Das Gegenargument: Agenten für allgemeine Aufgaben machen an Branchengrenzen nicht halt. Deshalb regelt der AI Act Allzweckmodelle gerade quer über alle Branchen.

• Die öffentlich-rechtliche KI ist ein starker Denkanstoß. Offen lässt er die eigentlich harte Frage: woher Rechenleistung und Geld in dieser Größenordnung kommen sollen.