Päpstlicher KI-Berater warnt vor Kartellbildung großer KI-Labore

Pater Paolo Benanti, Berater der katholischen Kirche für künstliche Intelligenz (KI), hat Bedenken geäußert, dass große KI-Labore kartellähnliche Verhaltensweisen zeigen könnten, indem sie die Entwicklung und Regulierung der Branche kontrollieren. Benanti argumentiert, dass die Fokussierung auf potenziell zukünftige superintelligente KIs von der dringenden Notwendigkeit einer offenen öffentlichen Debatte und demokratischen Aufsicht ablenkt.

Er betont, dass KI-Ethik keine interne Angelegenheit von Unternehmen sein sollte, sondern vielmehr im öffentlichen Diskurs ausgeglichen und debattiert werden muss. „Ethik kann nichts sein, das dem Vorstand eines Unternehmens gehört. Es ist etwas, das in der öffentlichen Debatte ausgeglichen und gemildert werden muss“, sagte Benanti zu WIRED. Er kritisiert die Tendenz großer Labore, Probleme als so komplex darzustellen, dass nur sie sie lösen können, was andere effektiv vom Gespräch ausschließt.

Benanti ist skeptisch gegenüber den apokalyptischen Szenarien, die von einigen KI-Forschern präsentiert werden, und sieht klare wirtschaftliche und politische Motivationen dahinter. Obwohl einige Labore wie Anthropic eine Verlangsamung der Entwicklung und obligatorische Drittanbieter-Bewertungen gefordert haben, vermutet Benanti, dass ihre Motive darin bestehen könnten, ihre Marktposition zu erhalten oder zu verbessern. Er warnt, dass, wenn eine kleine Gruppe von Unternehmen die Bedingungen diktiert, dies ein klares Zeichen für Kartellbildung ist.

Darüber hinaus hinterfragt Benanti die quasi-religiöse Ehrfurcht vor Superintelligenz im KI-Sektor. Er betont die Bedeutung des Verständnisses, dass fortschrittliche Berechnungen entwickelt werden, keine göttliche oder übernatürliche Entität. Benanti räumt jedoch ein, dass der Aufstieg der KI eine neue Rolle für Religionen im öffentlichen Diskurs schaffen und der Menschheit helfen könnte, die Herausforderungen der Zeit zu bewältigen.