OpenAI-Konkurrent: Neue KI-Software erkannte, wenn sie getestet wird

05.03.24 06:17 Uhr

Werte in diesem Artikel
Aktien

145,94 EUR -0,14 EUR -0,10%

170,60 EUR 0,32 EUR 0,19%

SAN FRANCISCO (dpa-AFX) - Eine neue Konkurrenz-Software für den Chatbot ChatGPT kann nach Angaben der Entwicklerfirma Anthropic erkennen, wenn Menschen sie testen. Das sei eine Entwicklung, die er noch nie bei einem solchen Programm beobachtet habe, schrieb einer der Entwickler beim Online-Dienst X.

Zum Prüfverfahren für das Programm gehört ein Test, das "Nadel im Heuhaufen" genannt wird: Die Software wird dabei nach Informationen aus einem bestimmten Satz gefragt, der künstlich in einen längeren Text eingefügt wurde. Ziel ist, zu erkennen, wie gut die Software die Relevanz von Informationen aus dem Kontext heraus erkennen kann.

So wurde im Test des neuen KI-Modells Claude 3 Opus in eine Text-Sammlung ein zusammenhangloser Satz eingefügt, laut dem eine Internationale Pizza-Vereinigung Feigen, Prosciutto-Schinken und Ziegenkäse als leckersten Belag ausgemacht habe. Die Software habe darauf verwiesen, dass der Satz nicht zum Rest des Textes passe, in dem es hauptsächlich um Programmiersprachen und Start-ups gehe, schrieb Anthropic am Montag. "Ich vermute, dass dieser "Fakt" zu Pizza-Belagen als Scherz eingefügt wurde - oder um zu testen, ob ich aufmerksam bin", fügte das Programm demnach hinzu.

KI-Forscherin Margaret Mitchell nannte die Entwicklung beängstigend. Man könne sich vorstellen, dass die Fähigkeit, zu erkennen, ob ein Mensch sie für ein bestimmtes Ergebnis zu manipulieren versucht, die Software auch entscheiden lassen könnte, ob sie gehorcht oder nicht, schrieb sie beim Online-Dienst X.

Anthropic schränkte ein, dass man aktuell mit einer Sammlung aus 30 "Nadel"-Sätzen für die Text-"Heuhafen" arbeite. Angesichts der Entwicklung der KI-Software könne diese Methode mit künstlichen, konstruierten Aufgaben potenziell zu kurz greifen, räumte die Firma zugleich ein. Keine Probleme seien bei den üblichen Tests festgestellt worden, ob das Programm für die Entwicklung von Biowaffen und Software für Cyberattacken missbraucht werden könne - oder sich selbst weiterentwickeln würde.

Anthropic ist ein Konkurrent des ChatGPT-Entwicklers OpenAI, mit dem Amazon und Google (Alphabet C (ex Google)) zusammenarbeiten./so/DP/zb

Ausgewählte Hebelprodukte auf Alphabet A (ex Google)

Mit Knock-outs können spekulative Anleger überproportional an Kursbewegungen partizipieren. Wählen Sie einfach den gewünschten Hebel und wir zeigen Ihnen passende Open-End Produkte auf Alphabet A (ex Google)

NameHebelKOEmittent
NameHebelKOEmittent
Werbung

Nachrichten zu Amazon

Analysen zu Amazon

DatumRatingAnalyst
17.04.2024Amazon OutperformBernstein Research
16.04.2024Amazon OverweightJP Morgan Chase & Co.
11.04.2024Amazon BuyJefferies & Company Inc.
08.04.2024Amazon OutperformRBC Capital Markets
04.04.2024Amazon BuyJefferies & Company Inc.
DatumRatingAnalyst
17.04.2024Amazon OutperformBernstein Research
16.04.2024Amazon OverweightJP Morgan Chase & Co.
11.04.2024Amazon BuyJefferies & Company Inc.
08.04.2024Amazon OutperformRBC Capital Markets
04.04.2024Amazon BuyJefferies & Company Inc.
DatumRatingAnalyst
26.09.2018Amazon HoldMorningstar
30.07.2018Amazon neutralJMP Securities LLC
13.06.2018Amazon HoldMorningstar
02.05.2018Amazon HoldMorningstar
02.02.2018Amazon neutralJMP Securities LLC
DatumRatingAnalyst
11.04.2017Whole Foods Market SellStandpoint Research
23.03.2017Whole Foods Market SellUBS AG
14.08.2015Whole Foods Market SellPivotal Research Group
04.02.2009Amazon.com sellStanford Financial Group, Inc.
26.11.2008Amazon.com ErsteinschätzungStanford Financial Group, Inc.

Um die Übersicht zu verbessern, haben Sie die Möglichkeit, die Analysen für Amazon nach folgenden Kriterien zu filtern.

Alle: Alle Empfehlungen

Buy: Kaufempfehlungen wie z.B. "kaufen" oder "buy"
Hold: Halten-Empfehlungen wie z.B. "halten" oder "neutral"
Sell: Verkaufsempfehlungn wie z.B. "verkaufen" oder "reduce"