Cyber-Defence Campus 03.11.2024, 10:22 Uhr

Startup «Patronus AI» überzeugt VBS bei der Cyber Startup Challenge 2024

Bei der diesjährigen Ausgabe der Cyber Startup Challenge hat das Startup «Patronus AI» mit einer Plattform zur automatisierten Bewertung und Sicherung von LLMs überzeugt. 2025 kann das Startup seine Lösung in einer Machbarkeitsstudie dem VBS in der Praxis demonstrieren.
(Quelle: Patronus AI)
In diesem Jahr fand die Cyber Startup Challenge zum fünften Mal statt. Im Mai 2024 rief der Cyber-Defence Campus zu innovativen Lösungen im Bereich der «Sicherheit von künstlicher Intelligenz» auf. Die Startups präsentierten ihre Entwicklungen einer Jury, die aus Expertinnen und Experten des Eidgenössischen Departements für Verteidigung, Bevölkerungsschutz und Sport (VBS) besteht. Überzeugt hat in diesem Jahr «Patronus AI».
Das Startup wird 2025 die Möglichkeit haben, seine Lösung dem VBS in einer Machbarkeitsstudie unter realen Bedingungen zu demonstrieren.

Sicherheit von künstlicher Intelligenz

«Patronus AI» ist ein Unternehmen, das sich auf automatisierte Evaluation von grossen Sprachmodellen (Large Language Models, LLMs) sowie auf Schutzmassnahmen und Sicherheitslösungen spezialisiert hat. Diese Plattform ermöglicht es Unternehmen und Behörden, die Leistung von LLMs in realen Szenarien zu bewerten und zu vergleichen. Sie bietet umfassende Funktionen zur Erstellung umfangreicher Testfälle, zur Überwachung von Halluzinationen und zur Verhinderung anderer unerwarteter und unsicherer Verhaltensweisen.
Die Nutzung von «Patronus AI» hilft Kundinnen und Kunden, Zeit bei der manuellen Evaluierung einzusparen, die Entwicklung sowie das Vertrauen in generative KI-Anwendungen vom Prototyp bis zur Produktion zu beschleunigen und die negativen Risiken von Halluzinationen und Prompt-Injektionen zu minimieren. Zudem bietet die Plattform tiefgehende Analysen und präzise Feedbackmechanismen, die auf der neuesten Forschung im Bereich der künstlichen Intelligenz (KI) basieren.
Der Cyber-Defence Campus von armasuisse Wissenschaft und Technologie wird im kommenden Jahr die nächste Cyber Startup Challenge durchführen, um erneut innovative Technologien und Ideen zu fördern.
Artikel drucken
Patrick Hediger
Das könnte Sie auch interessieren
Cybercrimepolice.ch vor 1 Tag
Bereits fünf Jahre im Einsatz gegen Onlinekriminalität
Die Website Cybercrimepolice.ch feiert im November 2024 ihr 5-jähriges Bestehen.
 
vor 1 Tag
Swiss Cyber Security Days vor 1 Tag
Nik Gugger präsidiert neu die Swiss Cyber Security Days
Bei den Swiss Cyber Security Days (SCSD) gibt es einen Wechsel an der Präsidiumsspitze. Nach 5 Jahren übergibt die ehemalige FDP-Nationalrätin Doris Fiala an den Schweizer Nationalrat Nik Gugger. Die nächsten Security-Days finden am 18./19. Februar 2025 in Bern statt.
 
vor 1 Tag
Smartphone vor 2 Tagen
Neue KI warnt vor explodierenden Akkus
Dank einer trainierten Künstlichen Intelligenz (KI) von Forschern des National Institute of Standards and Technology lassen sich vor der Explosion eines Lithium-Ionen-Akkus rechtzeitig Schutzmassnahmen durchführen.
 
vor 2 Tagen
Künstliche Intelligenz vor 6 Tagen
Google Gemini App neu auch fürs iPhone verfügbar
iPhone-Nutzern steht ab sofort eine eigenständige Gemini App zur Verfügung. Sie bietet einfachen Zugang zu Funktionen, die Lernen, Kreativität und Produktivität verbessern sollen.
 
vor 6 Tagen