Openai sichert die zukunft der ki-sicherheit mit promptfoo-aufkauf

OpenAI strebt danach, die Implementierung von KI-Software in Unternehmen sicherer zu machen. Dazu hat die Firma Promptfoo für eine bedeutende Summe erworben, um die große Unternehmen bei der Verwaltung ihrer Sicherheitsrisiken bei KI-Modellen während des Entwicklungsprozesses zu unterstützen.

Promptfoo: eine pioniereinrichtung bei der automatisierten sicherheitsprüfung von ki-systemen

Promptfoo, ein Start-up aus San Francisco, hat sich seit seiner Gründung vor zwei Jahren auf die Entwicklung von offenen Koden für die Prüfung der Sicherheit von KI-Systemen spezialisiert. Das Unternehmen bietet Tools, um Unternehmen zu helfen, ihre eigenen Produkte zu testen und Schwachstellen zu finden, ein Vorgehen bekannt als Red-Teaming.

Promptfoo hat sich inzwischen bei etwa einem Viertel der Fortune-500-Unternehmen etabliert und wurde von der Investorengruppe Insight Partners mit 18,4 Millionen US-Dollar gefördert.

OpenAI will die von Promptfoo entwickelten Funktionen für die automatisierte Sicherheitsprüfung und Red-Teaming in seine Frontier-Plattform integrieren, um sicherzustellen, dass jeder AI-Agent, den OpenAI als