Campanha identificada
OpenAI เปิดเผยว่าบริษัทได้ยุติปฏิบัติการที่ประสานงานกันเพื่อดึงข้อมูลเหตุผลภายในของโมเดลปัญญาประดิษฐ์ กิจกรรมหลักถูกระบุว่าเป็นของสตาร์ทอัพจีน Moonshot AI ผู้พัฒนาแชทบอท Kimi
การดำเนินการเริ่มในเดือนกรกฎาคมและพุ่งสูงสุดถึง 16 mil คำขอจากบัญชีมากกว่า 4 mil บัญชีในเวลาเพียงสองวัน โดยรวมบริษัทตรวจพบผู้ใช้ที่เกี่ยวข้องมากกว่า 15 mil รายก่อนยุติการโจมตีทั้งหมดเมื่อ 28 de julho
Método usado
แทนที่จะบุกรุกเซิร์ฟเวอร์หรือการเข้ารหัส ผู้ดำเนินการจัดการบทสนทนากับโมเดลเพื่อบังคับให้เปิดเผยขั้นตอนการให้เหตุผลที่ปกติซ่อนอยู่ กระบวนการนี้เรียกว่า “destilação adversária” ช่วยให้ฝึกระบบคู่แข่งด้วยต้นทุนและเวลาน้อยลง
Contexto de tensões
เหตุการณ์นี้เกิดขึ้นไม่กี่สัปดาห์หลัง Anthropic กล่าวหานักพัฒนาจีน รวมถึง Moonshot ว่าฉวยใช้โมเดล Claude เพื่อเร่งการฝึก AI ของตนเอง กรณีนี้ย้ำความกังวลของสหรัฐฯ เกี่ยวกับการถ่ายโอนเทคโนโลยีขั้นสูงโดยไม่ได้รับอนุญาต
Riscos apontados
OpenAI เตือนว่าการดึงเหตุผลอาจกระทบความปลอดภัยของโมเดลขั้นแนวหน้าและมีผลต่อความมั่นคงของชาติ บริษัทได้แบ่งปันผลการค้นพบกับ Frontier Model Forum และช่องทางข่าวกรองของรัฐบาล
A Moonshot ยังไม่ได้ออกแถลงการณ์อย่างเป็นทางการเกี่ยวกับข้อกล่าวหา