Yapay zekâ şirketi OpenAI, büyük dil modellerini ve yapay zekâ ajanlarını daha güvenli hale getirmek amacıyla güvenlik odaklı girişim Promptfoo’yu satın aldığını duyurdu. 2024 yılında kurulan Promptfoo, şirketlerin yapay zekâ uygulamalarındaki güvenlik açıklarını tespit etmesine ve sistemleri olası saldırılara karşı test etmesine yardımcı olan araçlar geliştiriyor. Satın almanın finansal detayları ise açıklanmadı.
OpenAI, Promptfoo’nun teknolojisini özellikle kurumsal yapay zekâ ajanlarının geliştirildiği OpenAI Frontier platformuna entegre etmeyi planlıyor. Bu sayede şirketler, yapay zekâ sistemlerini devreye almadan önce güvenlik testlerinden geçirerek olası kötüye kullanım ve siber saldırı risklerini daha erken aşamada tespit edebilecek.
