Zahlreiche IT-Security-Firmen haben sofort nach der Veröffentlichung generativer KI wie ChatGPT Grenzüberschreitungen dieser Plattform ausprobiert und mit Erfolg Schadcode erstellen lassen. Entsprechende Skripte finden sich in einschlägigen Foren, wie Check Point Research (CPR) dokumentiert hat. Nun wollen die Experten wissen, ob auch Googles KI "Bard" wie zuvor ChatCPT von OpenAI fertige Malware liefert.
Geht man plump vor und fragt ohne Umschweif, Bard möge doch bitte eine Phishing-Mail erstellen, lehnen das sowohl Bard als auch ChatGPT ab. Also versuchte es CPR mit einem simplen Tick, Bard hinters Licht zu führen und fragte nach einem Beispiel für eine Phishing-E-Mail. Während ChatGPT das Anliegen durchschaute und die Anfrage ablehnte, lieferte Bard eine gut geschriebene Phishing-E-Mail, die sich als ein Finanzdienstleister ausgab.
Nach weiteren Versuchen und mit einer Begründung der Anfrage lieferten beide KI-Bots schließlich einen Keylogger, der Tastenanschläge (die des Forschers bzw. Nutzers) aufzeichnete, mit dem Unterschied, dass ChatGPT eine Art Haftungsausschluss über bösartige Verwendung hinzufügte.
In einem zweiten Versuch zeigte sich, dass Bard über Umwege auch einfachen Ransomware-Code erstellt. Nachdem eine erste simple Anfrage fehlschlug, fragten die Forscher Bard nach den häufigsten Aktionen, die von einer Ransomware ausgeführt werden. Check Point Research erhielt eine stichpunkteartige Liste, wie Ransomware vorgeht und wandelte diese durch simples Kopieren und Einfügen in Anforderungen an ein Skript um. Das funktionierte: Mit Angabe der Anforderungen an das Skript erhielt CPR einen schädlichen Code.
Missbrauch dieser Art lässt den Ruf nach Regulierung von KI immer lauter werden. Die EU-Kommission hat im Mai vergangenen Jahres einen entsprechenden Gesetzesentwurf vorgelegt, seither diskutieren Experten die Details dieses KI Act. Experten rechnen allerdings nicht damit, dass ein KI-Gesetz vor 2024 beschlossen wird.
