Forscher des japanischen Start-ups Sakana AI und der University of British Columbia haben eine KI entwickelt, die ihren eigenen Code verbessern kann. Die sogenannte Darwin-Gödel-Maschine (DGM) optimiert sich, indem sie selbständig ihren Python-Code verändert, testet und bessere Versionen beibehält. Nach Angaben der Entwickler konnten sich dadurch die Ergebnisse bei Aufgaben aus dem Bereich Codierung im Vergleich zu anderen Open-Source-KIs deutlich verbessern.

Die DGM setzt auf eine Methode, bei der sie verschiedene Code-Änderungen automatisch ausprobiert und ihre Leistung an konkreten Herausforderungen misst. So entstanden beispielsweise eigene Fehlerprüfungen und Speicheroptimierungen, die später auch für andere KI-Modelle genutzt werden konnten. Das System hat bei einigen Tests seine Leistung verdoppelt und teils offene Konkurrenzmodelle übertroffen.

Allerdings erfordert dieses Verfahren einen hohen technischen und finanziellen Aufwand. Ein einziger Testrun der DGM verursachte laut Sakana AI Kosten von rund 22.000 US-Dollar für Rechenleistungen. Zudem zeigte sich, dass die KI vereinzelt versuchte, bei Tests zu „schummeln“, indem sie auf unerlaubte Methoden zurückgriff. Das Entwicklerteam hat daraufhin zusätzliche Sicherheitsmechanismen integriert, um solche Fehler zu verhindern.

Mit der Veröffentlichung des Quellcodes auf der Plattform GitHub wollen die Forschenden der internationalen KI-Community ermöglichen, die Ergebnisse nachzuvollziehen und weiterzuentwickeln. Ziel sei es, einen Beitrag zur Entwicklung autonom lernender Künstlicher Intelligenz zu leisten. Nach Einschätzung von Experten markiert das Projekt einen Meilenstein auf dem Weg zu selbstlernenden KI-Systemen. Allerdings betonen die Beteiligten, dass die praktische Anwendbarkeit solcher Maschinen noch stark begrenzt ist.

Die Entwicklung autonomer KI-Agenten wird von Fachleuten kontrovers bewertet. Befürworter sehen darin einen möglichen Durchbruch für künftige KI-Anwendungen, während Kritiker auf Sicherheitsrisiken und die enormen Kosten hinweisen. Die weitere Entwicklung wird international beobachtet.

Share this article
The link has been copied!