Deutsches Startup QuanPi erhält Förderung: KI schätzt Risiko von KI ein
QuanPI entwickelt eine automatisierte Risikomanagement-Plattform, die generative KI-Tools mit skalierbaren Tests auf Vertrauenswürdigkeit und Security hin untersucht. Dafür gibt es von der EU eine kleine Förderung.
Geld aus EU-Fördertöpfen für zeitgemäße, nützliche Technologie zu bekommen ist bekanntermaßen nicht ganz einfach. Von den 648 Bewerbern, die in letzter Zeit Anträge beim Europäischen Innovationsrat (EIC) gestellt hatten, waren nur 7 Prozent erfolgreich. QuantPi, ein Start-up aus Saarbrücken im Bereich KI-Vertrauensmanagement, kann sich also glücklich schätzen, vom Europäischen Innvationsrat (EIC ) nun eine Förderung in Höhe von 2,5 Mio. Euro erhalten zu haben. Das Geld soll in den weiteren Aufbau einer Plattform zur automatisierten Überprüfung von Tools und Systemen für generative KI fließen. QuantiPi arbeitet an der ersten automatisierten Risikomanagement-Plattform, um die Sicherheit, Fairness und Erklärbarkeit generativer KI-Systeme zu gewährleisten. KI validiert KI, sozusagen.
Hochgesteckte Ziele
Da es Anbietern und Nutzern an Ressourcen und Technologien fehlt, um die Risiken generativer KI-Systeme zu erkennen und beherrschen, baut QuantPi die notwendigen Schutzmaßnahmen auf. MIt der Plattform sollen Unternehmen, die GenAI-Tools kaufen möchten, den Risikobewertungsprozess während der Beschaffung automatisieren können, um ihren Kundenstamm zu schützen und sicherzustellen, dass sie nur in hochwertige KI investieren. Die Gewissheit, dass hier strenge Tests zur Einhaltung der EU-Standards erfolgen, werde das Vertrauen Nutzer in generative KI-Systeme erheblich steigern, erklärte QuanPi.
Es ist keine hohe Fördersumme, dennoch herrscht beim Startup aus dem Saarland helle Begeisterung über die EU-Förderung, auch wenn der öffentliche Kommentar steinseriös ausfällt: "Da ist ein Beweis für die harte Arbeit und das Engagement des gesamten QuantPi-Teams", so Philipp Adamidis, CEO von QuantPi. "Wir freuen uns, dass wir diese Mittel nutzen können, um den sicheren und verantwortungsvollen Einsatz von KI zu gewährleisten, ohne dabei den Fortschritt zu bremsen. Die Förderung beschleunigt nicht nur unsere Forschungs- und Entwicklungsbemühungen, sondern unterstützt auch unser Engagement, einen positiven Beitrag für die Gesellschaft zu leisten." Zu den Zielen von QuantPi gehört auch, die Umsetzung der KI-Richtlinien in Deutschland und auf EU-Ebene zu unterstützen.
Michael Backes, ist der CEO und Gründungsdirektor des CISPA Helmholtz-Zentrums für Informationssicherheit, eine der weltweit führenden Forschungsstätten für Cybersicherheit, freut sich mit: "Es ist großer Meilenstein für ein Start-up, das wir von Anfang an unterstützt haben, und der nächste logische Schritt auf QuantPis technologischem Weg von der Grundlagenforschung zur industriellen Anwendung."
Laut Backes "ist die Sicherstellung der Vertrauenswürdigkeit von KI-Systemen durch transparente und skalierbare Tests eine Grundvoraussetzung für unser aller Leben - insbesondere in der neuen Ära der generativen KI."