OpenAI przejmuje Promptfoo: przełom w bezpieczeństwie systemów AI dla biznesu!

Firma OpenAI ogłosiła przejęcie startupu Promptfoo, który specjalizuje się w bezpieczeństwie systemów sztucznej inteligencji. O umowie poinformowano na oficjalnym blogu firmy. Po zakończeniu transakcji technologie Promptfoo zostaną zintegrowane z platformą OpenAI Frontier — korporacyjnym rozwiązaniem do tworzenia i zarządzania agentami AI.

Co wiadomo

Promptfoo została założona w 2024 roku przez Iana Webstera i Michaela D’Angelo. Firma opracowuje narzędzia, które pomagają testować duże modele językowe (LLM) pod kątem podatności i chronić je przed atakami czy manipulacjami. Wśród produktów startupu jest otwarty interfejs i biblioteka do sprawdzania bezpieczeństwa systemów. Według danych firmy, jej rozwiązania są używane przez ponad 25% firm z listy Fortune 500.

Rozwój autonomicznych agentów AI, które mogą wykonywać zadania cyfrowe bez udziału człowieka, budzi duże zainteresowanie biznesu z powodu potencjalnego wzrostu produktywności. Jednocześnie takie systemy stwarzają nowe ryzyka: złoczyńcy mogą próbować uzyskać dostęp do poufnych danych lub wpływać na zautomatyzowane procesy. Dlatego właśnie firmy, które pracują z zaawansowanymi modelami AI, aktywnie inwestują w technologie ochrony.

Po integracji technologii Promptfoo platforma OpenAI Frontier będzie mogła automatycznie przeprowadzać tak zwane „red-teaming” — testy systemów pod kątem możliwych ataków, sprawdzać procesy robocze agentów AI pod kątem ryzyka bezpieczeństwa i śledzić aktywność w celu zgodności z wymaganiami compliance. W OpenAI także zaznaczyli, że planują kontynuować rozwój otwartych narzędzi Promptfoo.

Kwota transakcji nie została ujawniona. Według danych PitchBook, od momentu założenia startup pozyskał około 85 mln PLN (23 mln USD) inwestycji, a po rundzie finansowania w lipcu 2025 roku był wyceniany na około 374 mln PLN (86 mln USD).

Źródło: OpenAI