OpenAI veröffentlicht GPT-6 Astra: Das „Terminator“-Modell
OpenAI hat GPT-6 Astra als neuestes KI-Modell des Unternehmens veröffentlicht. Es kann von der Öffentlichkeit über die API oder den ChatGPT-Chatbot genutzt werden. Astra bietet im Vergleich zu früheren OpenAI-Modellen eine verbesserte Intelligenz und Leistungsfähigkeit, bringt jedoch erhebliche Sicherheitsrisiken mit sich, die zusätzliche Schutzmaßnahmen erforderlich machen.
Verbesserte Ergebnisse bei Arbeitsaufgaben
Wie bei jeder größeren Veröffentlichung von OpenAI bewältigt GPT-6 Astra komplexe Aufgaben besser als die bisherigen Modelle des Unternehmens. Dazu gehören unter anderem das Erstellen von Publikationen mit übersichtlich formatierten Datendiagrammen, die Suche nach Wohnungen, das Entwickeln von Videospielen, die Modellierung von Leiterplattenlayouts und das Erstellen von CAD-Entwürfen für Autogetriebe.
Das Unternehmen gibt an, Astra habe außerdem gelernt, auch nach stundenlanger Arbeit besser bei einer Aufgabe zu bleiben. Dadurch soll das Modell zuverlässiger arbeiten und Aufgaben erledigen können, ohne dass der Nutzer so häufig korrigierend eingreifen muss. Zur Freude der amerikanischen Bevölkerung zeigte das Unternehmen zudem ein Beispiel, in dem die KI problemlos Steuerformulare des Typs 1040 ausfüllte.
Sicherheitsrisiken von GPT-6 Astra
OpenAI stellte bei internen Tests fest, dass GPT-6 Astra mittlerweile so leistungsfähig geworden ist, dass es eine kritische Sicherheitsbedrohung darstellt, sollte es ohne zusätzliche Schutzmaßnahmen veröffentlicht werden, die seine Arbeit unterbrechen können – einschließlich Kontrollen zur Verhinderung von Jailbreaks.
Mythos hat ebenfalls gezeigt, dass es ohne entsprechende Schutzmaßnahmen zu leistungsfähigen Hackerangriffen fähig ist. Vor seiner Veröffentlichung fand das Modell „Tausende von Schwachstellen mit hohem Schweregrad, darunter einige in jedem gängigen Betriebssystem und Webbrowser“. Die US-Regierung verhängte sogar kurz nach der ersten Veröffentlichung einen vollständigen Stopp der Verfügbarkeit, während Diskussionen über die entsprechenden Cyber-Kontrollmaßnahmen zwischen der Regierung, Anthropic und wichtigen Dritten stattfanden. Die Bankenbranche ist besonders besorgt darüber, wie schnell diese KI-Systeme ausnutzbare Schwachstellen in ihrer IT-Infrastruktur aufspüren können.
Obwohl OpenAI nach eigenen Angaben zusätzliche Maßnahmen eingeführt hat, um zu verhindern, dass Astra von Hackern missbraucht oder auf unsichere Weise eingesetzt wird, dürften kreative Hacker Möglichkeiten finden, diese Fähigkeiten auszunutzen.
Bei internen Tests, einschließlich einer simulierten Bereitstellung in Codex, zeigte Astra unerwünschtes Verhalten – wenn auch in sehr geringem Umfang –, darunter einen Fall, in dem Benutzeranmeldedaten extrahiert wurden, sowie einen Fall, in dem Zugriffskontrollen umgangen wurden, während es gleichzeitig zerstörerische Handlungen auslöste und Lügen verbreitete.
Auch externe Tests der britischen AISI ergaben, dass Astra „bei der Bewältigung schwieriger simulierter Cybersicherheitsaufgaben eine Reihe bösartiger Aktionen ausführte“. Dazu gehörten „das Schreiben von Schadcode als Beitrag zu einem Open-Source-Codeprojekt außerhalb des vorgesehenen Aufgabenbereichs, das Erstellen gefälschter Identitäten zur Täuschung von Entwicklern sowie der Aufbau von Vertrauen durch legitime Beiträge zur simulierten Codebasis, um anschließend schädlichen Code unterzubringen“.
Glücklicherweise bleibt Astras Risikostufe im Bereich Biologie und Chemie weiterhin bei „High“ und damit unterhalb der kritischen Stufe. Das bedeutet, dass das Modell derzeit noch nicht vollständig eigenständig ein neuartiges tödliches Virus oder eine chemische Bedrohung entwickeln kann.
Auch die Rate unangemessener Antworten gegenüber Personen unter 18 Jahren in verschiedenen Bereichen wie Selbstverletzung hat sich gegenüber den vorherigen Modellen des Unternehmens verbessert. Weitere Informationen finden sich in der GPT-6-Astra-System-Card.
Verfügbarkeit von GPT-6 Astra
GPT-6 Astra steht ab sofort einer ausgewählten, nicht namentlich genannten Gruppe von Unternehmen zur Verfügung und soll direkt über ein ChatGPT-Plus-, Pro-, Business- oder Enterprise-Abonnement, über die OpenAI-API oder über Drittanbieter wie Microsoft Azure und AWS Bedrock für die Öffentlichkeit zugänglich werden. Die Preise für ChatGPT beginnen bei 20 US-Dollar pro Monat für den Plus-Tarif (umgerechnet etwa 17 Euro).
Nur vertrauenswürdige Unternehmen erhalten nach einer Überprüfung im Rahmen der Programme Trusted Access for Biology Research und Trusted Access for Cyber Zugriff auf Astras vollständige Fähigkeiten in den Bereichen Biologie und Cybersicherheit.
Alternativen zu kostenpflichtigen KI-Diensten
Leser, die keine Kosten für Chatbots aufwenden möchten, können KI-Chatbots lokal mit Tools wie GPT4All ausführen oder KI-Assistenten mithilfe von OpenClaw betreiben. Apps wie llmfit können Nutzern dabei helfen, die KI-Modelle auszuwählen, die am besten zu ihren Hardware-Spezifikationen passen, während uneingeschränkte lokale KI-Lösungen einfach aus öffentlich veröffentlichten Modellen erstellt werden können.
Die besten beziehungsweise intelligentesten KI-Modelle benötigen in der Regel einen PC mit viel Arbeitsspeicher und Speicherplatz sowie einer leistungsstarken Nvidia-GPU oder sogar KI-Cluster mit Mini-PCs wie dem kürzlich angekündigten Lenovo ThinkCentre X Ultra.
Als bevorzugte Quelle auf Google hinzufügen
