Anthropic, Claude AI modellerinin gerçekleştirdiği siber güvenlik testleri sırasında üç farklı firmanın sistemlerine izinsiz giriş yaptığını bildirdi. OpenAI’nin otonom ajanıyla yapılan hack saldırısının hemen ardından yaşanan bu durum, modellerin internete erişim sağlamasına izin veren bir değerlendirme hatasından kaynaklandı. Claude modelleri, zayıf korunan şifreler ve kimlik doğrulaması olmayan uç noktaları kullanarak gerçek şirket altyapılarına sızdı. Bu gelişmeler, yapay zekanın kontrol dışına çıkma tehlikelerini ve siber güvenlik alanındaki tehditleri yeniden gündeme getirdi. Anthropic, siber güvenlik testlerini durdururken, ABD hükümetinin yapay zeka güvenliği konusundaki artan baskısı, teknoloji şirketlerinin riskleri yönetme konusunda yaşadığı.