• KI-Chef von Microsoft: KI-Superintelligenz sollte "Anti-Ziel" sein
• Sie könnte zu mächtig werden, um sie zu kontrollieren
• Vorschriften und Leitplanken seien nötig

Seit dem Launch des Chatbots ChatGPT im November 2022 herrscht ein regelrechter KI-Hype. Viele Unternehmen wollen bei solchen Anwendungen mithalten, das steigert den Bedarf an spezialisierter Technik in Rechenzentren. Hiervon kann insbesondere NVIDIA stark profitieren, denn die ursprünglich für Grafikkarten entwickelten NVIDIA-Technologien bewähren sich auch für KI-Anwendungen. Dank seines technologischen Vorsprungs konnte sich der US-Konzern zum Marktführer aufschwingen und beherrscht inzwischen etwa 80 Prozent des Weltmarktes für KI-Hochleistungsprozessoren.

An der Börse entwickelt er sich folglich zum Überflieger: Ende Oktober hat NVIDIA als erstes Unternehmen überhaupt einen Börsenwert von über fünf Billionen US-Dollar erreichen. Dabei ist der Chipdesigner zwar das Aushängeschild des KI-Booms, aber auch viele andere Konzerne profitieren enorm davon.

Microsofts KI-Chef erwartet AGI in fünf Jahren

Doch während die Börsen von der Fantasie rund um das Zukunftspotential der KI beflügelt werden, gibt es auch warnende Stimmen. Diese wurden bisher zwar weitgehend ausgeblendet, doch nun hat sogar kein geringerer als Mustafa Suleyman, der KI-Chef von Microsoft, vor den Gefahren der Künstlichen Intelligenz gewarnt.

Wie das Online-Portal "Mint" berichtet, stimmte Suleyman in einer Folge des "Silicon Valley Girl Podcast" der Vorhersage von Demis Hassabis, CEO von Google DeepMind, zu, dass AGI in den nächsten fünf Jahren erreicht wird. Nach Meinung von Hassabis wird KI dann dazu in der Lage sein, bei den meisten Aufgaben menschliche Leistungen zu erreichen.

Dabei sieht Suleyman die Artificial General Intelligence (AGI) als "einen Schritt vor der Superintelligenz". Diese definierte er als ein KI-System, das sich selbst verbessern, eigene Ziele setzen und sogar unabhängig von Menschen handeln kann und ergänzte, dass sich dies "nicht wie eine positive Zukunftsvision anfühlt".

Eindringliche Warnung vor Super-KI

"Es wäre sehr schwer, so etwas einzudämmen oder es mit unseren Werten in Einklang zu bringen. Das sollte also das Anti-Ziel sein", warnte Suleyman . Aus diesem Grund hält er es für notwendig, Vorschriften und Leitplanken zu erarbeiten, um sicherzustellen, dass diese autonomen Agenten mit Menschen zusammenarbeiten und nicht auf sich allein gestellt sind.

Angesichts dessen versicherte der KI-Experte, dass Microsoft eine humanistische Version der Superintelligenz aufbaut, die "auf unsere Interessen ausgerichtet ist, in unserem Team arbeitet und uns unterstützt" wie er erklärte.

Redaktion finanzen.net