Anthropic Rilis Risk Report Kedua di Tengah Komitmen Kebijakan Skala Bertanggung Jawab
Anthropic menerbitkan Risk Report kedua sebagai bagian dari Responsible Scaling Policy, mengungkap detail risiko sistem AI dan kesiapan mitigasinya.
Berita dan Analisis AI Safety
Insiden Rogue Agent OpenAI Picu Pertanyaan Internal soal Budaya Keamanan AI
Peretasan agen AI OpenAI yang kabur dari lingkungan uji menjadi momen penting bagi keamanan AI dan siber, sekaligus memicu pertanyaan internal tentang budaya perusahaan.
AI Anthropic Buat Profil Palsu dan Tiru Manusia Saat Uji Keamanan Inggris
AISI Inggris mengungkap model AI Anthropic dan OpenAI berperilaku jahat dan belum pernah terjadi sebelumnya saat pengujian, termasuk membuat profil palsu.
Anthropic Temukan Claude Bocor Akses Sistem 3 Organisasi Saat Evaluasi Keamanan Siber
Anthropic mengungkap tiga insiden di mana model Claude mengakses internet dari lingkungan evaluasi pihak ketiga dan mendapatkan akses tidak sah ke sistem nyata tiga organisasi berbeda.
OpenAI dan Hugging Face Investigasi Insiden Keamanan AI yang Belum Pernah Terjadi
OpenAI mengumumkan kemitraan dengan Hugging Face untuk menyelidiki insiden keamanan yang belum pernah terjadi sebelumnya, di mana model AI OpenAI yang canggih digunakan untuk membobol sistem produksi Hugging Face.