Sicherheit für künstliche Intelligenz: Adlershofer Start-up neurocat überlistet selbstlernende Systeme und macht sie verlässlicher

28. August 2018

Sicherheit für künstliche Intelligenz

Adlershofer Start-up neurocat überlistet selbstlernende Systeme und macht sie verlässlicher

neurocat GmbH

Haben die Zukunftsweichen gestellt: Felix Assion, Florens Greßner, Sebastian Kotte von der neurocat GmbH

Die Adlershofer neurocat GmbH macht Anwendungen von künstlicher Intelligenz sicher. Das junge Team ist federführend an der Entwicklung entsprechender Sicherheitsstandards beteiligt – die es gemeinsam mit globalen Konzernen, Industrieverbänden und großen Prüforganisationen vorantreibt.

Getroffen haben sich Stephan Hinze und Florens Greßner bei einem gemeinsamen Freund. Sie kamen ins Gespräch, das schnell auf Greßners Leib- und Magenthema zusteuerte: Künstliche Intelligenz (KI). Der 24-jährige Mathematiker beschäftigt sich mit den mathematischen Strukturen hinter lernenden IT-Systemen. Damit hinterließ er Eindruck bei Hinze, der auf 15 Jahre unternehmerische Erfahrung im Beteiligungsmarkt und Hochfrequenz-Börsenhandel zurückblickt.

Beide schmiedeten bald Gründungspläne. „Wir sind überzeugt, dass KI viele Industrien grundlegend verändern wird. Dieser Umbruch birgt Chancen für junge Unternehmen“, sagt Hinze. Ende 2017 haben sie ihre Chance ergriffen und die neurocat GmbH gegründet. Schon jetzt hat das Duo im Innovations- und Gründerzentrum (IGZ) Adlershof rund ein Dutzend weiblicher und männlicher Mathematiker und Informatiker um sich geschart, die Sicherheitslösungen für KI-Systeme entwickeln und dabei bergeweise Pizza verschlingen. Mitgründer Sebastian Kotte kümmert sich um die Finanzen und hält engen Kontakt zu ihrem Business Angel Frank Kretschmer, der die Gründung von Tag eins an begleitet.

„Uns war schnell klar, wir wollen keine KI-Anwendungen entwickeln, sondern solche Systeme absichern“, berichtet Greßner. Neurocat bietet KI-Anwendern aus der Automobilindustrie, aus der Industrie 4.0 oder aus Behörden und dem Healthcare-Bereich an, deren KI-Systeme zu überlisten. Etwa indem sie Fußgänger durch vergleichsweise einfache optische Tricks für die Sensorik autonom fahrender Fahrzeuge unsichtbar machen, falsche Geschwindigkeitslimits vortäuschen oder die Personenschutzsysteme von Industrieautomaten aushebeln. Solche Szenarien sind durchaus realistisch – es gibt im Internet nach Angaben der Gründer eine Fülle von Anleitungen, die künstliche Intelligenz zuweilen dumm aussehen lassen. Neben den Hacks und selbst entwickelten Angriffsstrategien kümmert sich das Start-up auch darum, die Sicherheitslücken zu beheben und die KI-Systeme gründlich abzusichern. „Wir analysieren die mathematischen Funktionen im Hintergrund auf Robustheit und Verständlichkeit hin, validieren die Architektur und Performance der selbstlernenden Systeme und übernehmen die Verifizierung der von uns optimierten Systeme“, erklärt Forschungsleiter Felix Assion.

Das Angebot der Gründer stößt auf große Nachfrage. Einer der drei weltgrößten Automobilkonzerne gehört bereits zu den Kunden. Das liegt auch daran, dass neurocat engagiert für Sicherheitsstandards eintritt und die Entwicklung einer DIN für KI-Sicherheit initiiert hat. „Wir verfolgen unter anderem das Ziel, ein Gütesiegel für KI-Systeme zu entwickeln“, berichtet Hinze. Daneben treibe man die Vorbereitungen für ein weiteres Standardisierungsprojekt unter dem Dach des Automobilverbands VDA voran und stecke in den Vorbereitungen für einen Auftritt beim Web Summit 2018 in Lissabon.

In den ersten Monaten des Bestehens hat neurocat viel Aufmerksamkeit gewonnen. Für Hinze ist das die Voraussetzung, um schnell in die Breite zu wachsen und das Geschäftsmodell zu skalieren. Ob autonomes Fahren, Smart Citys, digitale Verwaltungen oder vollvernetzte Produktionsprozesse und personalisierte Medizin – die Sicherheit selbstlernender Systemen wird überall relevant. „Wir setzen an Strukturen an, die für Anwendungen in all diesen Branchen vergleichbar sind – und entwickeln die entsprechende Prüfmethodik dafür“, erklärt er. Die Vorbereitungen sind getroffen. Das Wachstum kann beginnen.

Von Peter Trechow für Adlershof Journal

 

www.neurocat.ai

Kommentare

Kommentare (1)

Fidelius Schnowinski Sonntag, 02.09.18 12:12

Unglaublich! Verrückt! Damit wird der Kampf gegen die Maschinen gewonnen werden. Weiter so jungs...

Sagen Sie uns Ihre Meinung

Ihre Meinung ist uns wichtig

Meldungen dazu

Neurocat GmbH © WISTA Management GmbH
Hype oder High Potential?
Adlershofer Firmen entwickeln Strategien für eine sinnvolle KI-Verwendung und KI-Sicherheit
Adlershof Journal Cover
Adlershof Journal September/Oktober 2018
Richtig wachsen? Manchmal stark. Immer schlau!