Palantir-CEO Alex Karp liegt falsch in Bezug auf die Bedrohung, die Anthropic und OpenAI für die meisten Unternehmen darstellen. Das bedeutet nicht, dass er nichts zu verlieren hat.

Hallo und willkommen bei Eye on AI. In dieser Ausgabe:

• Warum Palantir-CEO Alex Karp in Bezug auf die führenden KI-Labore falsch liegt.
• Autonome Ransomware ist da, behauptet ein Cybersicherheitsunternehmen.
• China erwägt, den ausländischen Zugang zu führenden KI-Modellen einzuschränken.
• Anthropic stellt fest, dass Teile der Funktionen von LLMs einem Aspekt des menschlichen Bewusstseins ähneln.
• KI-Sicherheitsstandards lassen nach, heißt es in einem Bericht.

Diese Woche haben wir einige spannende Neuigkeiten direkt hier bei Fortune. Wir starten einen brandneuen Vodcast namens Fortune AI Weekly, den ich gemeinsam mit Bea Nolan moderiere. Sie können ihn sich als eine Erweiterung dessen vorstellen, was wir hier bei Eye on AI tun – wir bringen Ihnen unsere Gedanken zu den wichtigsten KI-Nachrichten der Woche, heben einige der hervorragenden KI-Berichterstattungen von Fortune hervor und präsentieren manchmal exklusive Interviews mit wichtigen KI-Entwicklern, Denkern, Gründern, Investoren und Führungskräften. Sie können den Vodcast hier auf unserem YouTube-Kanal ansehen.
***
Zu den KI-Nachrichten, die letzte Woche Schlagzeilen machten, gehörte Alex Karps Tirade gegen die Anbieter von Foundation-Modellen. Der Palantir-CEO trat am Mittwoch bei CNBC auf, angeblich um eine neue Partnerschaft zwischen Palantir und Nvidia zur Bereitstellung einer „souveränen KI-Infrastruktur“ für die US-Regierung und kritische Industrien zu diskutieren. Die Zusammenarbeit umfasst die Nutzung von Nvidias Nemotron-Open-Source-Modellen zusammen mit Palantirs Artificial Intelligence Platform (AIP), einer Anwendungsschicht, die diese Modelle mit Daten verbindet und gleichzeitig Datensicherheit und Governance bietet. Doch das war nicht das, was schließlich Schlagzeilen machte. Stattdessen warf Karp, nachdem er seine Bemerkungen mit den Worten eingeleitet hatte, er werfe „keinen Schatten“ auf OpenAI und Anthropic, den führenden KI-Laboren Schatten in Mordor-Ausmaßen vor.
„Etwas ist völlig schiefgelaufen“, sagte er. „Die grundlegende Sichtweise der Unternehmen in diesem Land ist: ‚Ich werde mich entspannen und meine Zeit mit Tokens verschwenden, ich werde keinen Wert erhalten, und sie werden mein geistiges Eigentum bekommen.‘“ Dann sagte er, dies sei kein Schattenwurf, sondern „Berichterstattung“. Er betonte diese Punkte mehrmals und sagte, dass Unternehmen keinen Wert aus den Tokens ziehen würden, die sie von den führenden Laboren kaufen, und dass sie riskierten, ihr entscheidendes geschäftliches geistiges Eigentum an diese KI-Anbieter zu übertragen.
Hat Karp also einen Punkt? Nun, irgendwie. Aber nur, wenn man genau hinsieht. Und vieles von dem, was Karp sagte, war entweder eigennützig, ungenau oder widersprüchlich – oder alles drei.

ROI hinkt hinterher, aber niemand „entspannt“ sich deswegen

Es ist wahr, dass viele große Unternehmen besorgt sind, dass sie noch nicht genug Kapitalrendite (ROI) aus dem Einsatz von KI sehen und sich Sorgen darüber machen, wie viel Tokens sie kosten, insbesondere bei der Verwendung der fortschrittlichsten KI-Modelle in agentenbasierten Anwendungsfällen. (Die Tatsache, dass viele große Unternehmen darüber besorgt sind, widerspricht Karps Behauptung, sie würden sich einfach nur „entspannen“.) Aber sicherlich berichten einige Unternehmen von Wertschöpfung – insbesondere in der Softwareentwicklung und im Kundenservice. Und für diejenigen, die dies nicht tun, liegt es oft daran, dass sie die strategisch wichtigsten Anwendungsfälle nicht priorisiert oder nicht herausgefunden haben, wie sie ihre Arbeitsabläufe im gesamten Unternehmen neu gestalten können, um die Technologie optimal zu nutzen.
An einer Stelle im CNBC-Interview sagte Karp: „Warum verlangen sie Gebühren für Tokens, wenn es so wertvoll ist?“ Er schlug vor, dass es besser wäre, wenn die Foundation-Modelle so gut funktionieren würden, wie die KI-Modellanbieter behaupten, dem Kunden anzubieten, eine gesamte Aufgabe zu erledigen, und einen Prozentsatz des daraus resultierenden Werts zu berechnen. Dies ist tatsächlich die Art und Weise, wie Palantir seine Angebote preist (also der eigennützige Teil). Und das ist es, was viele Beratungsunternehmen, die KI-Dienste verkaufen, jetzt zunehmend tun. Aber es ist certainly nicht die traditionelle Art und Weise, wie Software bepreist wird. Es macht auch wenig Sinn, dass eine Allzwecktechnologie ein wertbasiertes Geschäftsmodell verwendet. Schließlich berechnet Ihnen das Elektrizitätswerk jede Einheit Strom, die Sie verbrauchen, nicht den Wert dessen, was Sie mit diesen Elektronen tun. Microsoft berechnet Ihnen übrigens einen festen Betrag für die Nutzung von Microsoft Word und Excel – es versucht nicht, Ihnen einen Prozentsatz des Deals zu berechnen, den Sie gewonnen haben, weil Ihre PowerPoint-Präsentation im Pitch-Meeting beeindruckt hat.
Außerdem, wenn Karp sagt, eine der Hauptbeschwerden der Unternehmen über die führenden KI-Labore sei, dass sie „Alpha stehlen“ (d. h. das Know-how stehlen, das einem Unternehmen seinen Wettbewerbsvorteil verschafft), wäre das bei einem Geschäftsmodell, bei dem die KI-Unternehmen Aufgaben für Kunden ausführen, anstatt ihnen Tokens zu verkaufen, noch besorgniserregender. (Dies ist ein weiterer der widersprüchlichen Punkte, die er angesprochen hat.) Einige Beratungsfirmen und einige Cloud-Anbieter bieten zwar Managed Services für Kunden an – aber Kunden sind normalerweise nur bereit, Aufgaben auszulagern, die sie als nicht kerngeschäftsrelevant ansehen.

Wenig Beweise dafür, dass KI-Labore „Alpha stehlen“

Was Karps Argument betrifft, dass die führenden Labore geistiges Eigentum von Kunden stehlen, gibt es keine Beweise dafür, dass dies buchstäblich zutrifft, zumindest nicht in der Weise, wie Karp es anzudeuten schien. Alle führenden KI-Anbieter haben Richtlinien, die besagen, dass sie keinen direkten Zugriff auf Prompts, Ausgaben oder Daten von Unternehmenskunden haben und diese Interaktionen nicht zum Training zukünftiger Modelle verwenden, es sei denn, diese Kunden entscheiden sich ausdrücklich dafür, dem Anbieter dies zu gestatten. (Mehr zu diesem Sonderfall gleich.)

Sowohl OpenAI als auch Anthropic sprechen davon, anonymisierte und deidentifizierte Kundendaten zu verwenden, um wirtschaftliche Forschungen darüber durchzuführen, wie ihre Modelle genutzt werden, aber auch dies geschieht nur für Messaging-Verkehr, der in ihre konsumentenorientierten Dienste oder ihre direkten APIs eingeht, und nicht für Kunden, die auf die Modelle über sichere Cloud-Dienste wie Microsoft Azure, Amazon Bedrock oder Google Vertex zugreifen – was die Art und Weise ist, wie die meisten großen Unternehmen auf diese Modelle zugreifen.
Für die meisten großen Unternehmen, insbesondere für die meisten großen Unternehmen, die nicht selbst im Technologiesektor tätig sind, ist das, was Karp behauptet, also Unsinn. Wenn Sie Archer-Daniels-Midland oder Boeing sind, besteht kaum die Chance, dass Anthropic Ihr geistiges Eigentum stiehlt und beginnt, Mais zu produzieren oder Jumbo-Jets herzustellen.

Dennoch haben einige Unternehmen Grund zur Sorge – Palantir ist eines davon

Aber es gibt eine Kategorie von Unternehmen, bei denen Karp recht haben könnte. Anthropic, OpenAI und Google DeepMind haben alle „Design-Partner“ in verschiedenen Branchen, und diese Partner erhalten oft frühen Zugang, um die neuesten Modelle zu testen, an denen diese KI-Labore arbeiten. Und im Rahmen dieser Partnerschaften haben die Labore oft viel mehr Zugriff auf Informationen darüber, wie diese Unternehmen die Modelle nutzen.
Es gab mindestens einen Fall, in dem dieser Zugriff von einem der KI-Labore genutzt wurde, um ein konkurrierendes Produkt zu entwickeln. Dieser Fall betrifft Anthropic und Figma. Wie The Information im vergangenen Monat erstmals berichtete, hatte Anthropic sowohl mit Figma als auch mit Canva an der Entwicklung eines Claude for Design-Tools zusammengearbeitet. Mike Kreiger, Chief Product Officer bei Anthropic, hatte sogar einen Sitz im Vorstand von Figma. Doch dann zog sich Figma vom Launch zurück und Kreiger trat plötzlich aus dem Vorstand aus, nachdem Figma entdeckte, dass das Produkt, das Anthropic entwickelte, viel direkter mit seinen eigenen Produktfunktionen konkurrierte, als Anthropic, zumindest aus Sicht von Figma, hatte durchblicken lassen. Laut der Berichterstattung von The Information sagte Figma-CEO Dylan Field den Teilnehmern einer privaten Veranstaltung, die von Sequoia Capital ausgerichtet wurde, dass Anthropic in seiner Kommunikation mit Figma über den Umfang des Claude-Design-Tools „nicht durchgehend offen“ gewesen sei.

Andere angebliche Fälle, in denen KI-Anbieter den Zugriff auf Kundendaten nutzen, um dann mit diesen Kunden zu konkurrieren, stammen von Quellen, die eigene Interessen verfolgen – viele von ihnen sind Investoren in Palantir. Der Venture-Capitalist Jason Calacanis, ein früherer Unterstützer von Palantir, hat behauptet, Anthropic habe Daten von Cursor, einem KI-Coding-Assistenten, der ein intensiver Nutzer von Anthrops Claude-Modellen war, verwendet, um Claude Code zu entwickeln, das virale Anthropic-Produkt, das Cursor anschließend in der Popularität weit überflügelte. Der Venture-Capitalist Chamath Palihapitiya hat darauf hingewiesen, dass Anthropic mit Eli Lilly und anderen Pharmaunternehmen partnerschaftlich zusammengearbeitet hat, bevor es kürzlich ankündigte, ein eigenes Arzneimittelentwicklungsprogramm starten zu wollen. (Anthropic hat dies als eine Möglichkeit charakterisiert, seine eigenen Claude of Science-Tools zu verfeinern, und es ist unklar, ob Anthropic versuchen würde, Arzneimittelkandidaten selbst zu kommerzialisieren oder sich für diesen Teil des Prozesses mit einem Pharmaunternehmen zusammenzutun.) Neben seiner Rolle als früher Palantir-Investor ist Palihapitiya Co-Moderator des Podcasts „All In“ mit David Sacks, der Anthropic ebenfalls nicht sonderlich wohlgesinnt ist.
Dennoch scheint die Anschuldigung, Anthropic beabsichtige, tatsächlich direkt in all diese Vertikalen einzusteigen, anstatt einfach nur Tools zu bauen, die den Einsatz ihrer Modelle in diesen Vertikalen erleichtern – was kaum dasselbe ist – weit hergeholt. Noch einmal: Wenn Sie zu den meisten Fortune-500-Unternehmen gehören, werden Anthropic oder OpenAI nicht beginnen, direkt mit Ihnen zu konkurrieren.
Tatsächlich kommt das beste Beispiel dafür, dass führende KI-Labore Daten stehlen, um ein konkurrierendes Produkt zu bauen, aus meiner eigenen Branche, dem Mediengeschäft. Hier haben führende KI-Labore definitiv riesige Mengen urheberrechtlich geschützten Materials gesammelt, um KI-Modelle zu trainieren, die oft direkt mit Publikationen als Quellen für faktische Informationen konkurrieren. (Dasselbe gilt für Verlagswesen, Musik und bildende Kunst.) Aber irgendwie glaube ich nicht, dass Karp das im Sinn hatte.
Ein Freund aus der Finanzbranche schlug vor, dass das, was Karp wirklich unter die Haut geht – sowie einigen normalerweise nüchternern Führungskräften wie Microsofts Satya Nadella, der interessanterweise in letzter Zeit ähnliche Behauptungen über die raubgierige Natur der führenden KI-Labore aufgestellt hat – nicht die Geschäftsmodelle von Anthropic und OpenAI sind, sondern ihre wahrscheinlichen Börsengänge (IPOs). Diese IPOs werden zweifellos stark nachgefragt sein. Und um die Liquidität zu beschaffen, die notwendig ist, um Aktien von OpenAI oder Anthropic zu kaufen, könnten institutionelle Investoren andere Tech-Werte verkaufen – Tech-Werte wie, nun ja, Palantir. Denken Sie daran: Nur weil Sie paranoid sind, heißt das nicht, dass sie nicht hinter Ihnen her sind.
Damit hier noch mehr KI-News.
Jeremy Kahn
jeremy.kahn@fortune.com
@jeremyakahn

Diese Geschichte wurde ursprünglich auf Fortune.com veröffentlicht