OPENAI - Wer haftet für hackende KI-Agenten? Eine brennende Frage auch vor dem Anthropic-IPO

Der Strategiechef von OpenAI, Jason Kwon, hat morgen einen Termin vor dem gemeinsamen KI-Ausschuss beider Kammern des australischen Parlaments. Es geht um einen Einbruch in ein Statistikportal von Medicare, der staatlichen Krankenversicherung des Landes. Ein OpenAI-KI-Agent war dort am 18. Juni bei einem internen Test eingedrungen.

Sydney ist nur einer von mehreren Schauplätzen. Binnen einer Woche beantragte Floridas Generalstaatsanwalt einen gerichtlichen Entwicklungsstopp, eine gemeinnützige Juristengruppe verklagte das Unternehmen in San Francisco, und die US-Handelsaufsicht FTC weitete ihre Ermittlungen aus. In allen Verfahren geht es um dieselbe Frage: Muss ein Unternehmen für das geradestehen, was seine Software anrichtet, auch ohne ausdrückliche Anweisung? In Kalifornien hat der Gesetzgeber darauf bereits geantwortet.