OpenAI integruje bezpečnost do AI agentů, pořízením startupu Promptfoo

OpenAI kupuje startup Promptfoo

Společnost OpenAI uzavřela dohodu o koupi dvouletého start-upu Promptfoo, který vyvíjí nástroje pro testování bezpečnosti umělé inteligence již v jejím vývojovém stádiu. Podle Bloomberg je cílem transakce snížit rizika pro klienty využívající AI‑řešení a přilákat velký korporátní trh.

Kdo je Promptfoo?

- Založeno: 2022 r.
- Umístění: San Francisco.
- Služby: otevřený kód pro testování neuronových sítí, včetně „červeného týmu“ (red‑team), kde specialisté napodobují útoky na vlastní modely a odhalují slabiny dříve, než je najdou útočníci.
- Klienti: přibližně 25 % společností z Fortune 500.

Co se změní po integraci?

Technologie Promptfoo budou zavedeny do korporátní platformy OpenAI – Frontier. To poskytne Frontier automatizované testování, monitorování změn a systém reportingu o kontrolách v souladu s bezpečnostními požadavky.

Reakce investorů

Ganesh Bell (CEO Insight Partners), který vedl financovací kolo Promptfoo ve výši 18,4 milionu dolarů minulý rok, poznamenal: „Nákup ukazuje jasnou oddanost OpenAI vytváření korporátní AI, která bude nejen výkonná, ale také bezpečná a spolehlivá při škálování.“ Finanční detaily transakce zatím nejsou zveřejněny.

Budoucnost Promptfoo

OpenAI bude pokračovat v rozvoji otevřeného zdrojového kódu Promptfoo paralelně s jeho komerční integrací. Nedávno společnost představila AI agenta, který je schopen najít a odstranit zranitelnosti v databázích – podobný nástroj Anthropic PBC.