"Không con tác tử nào được giao nhiệm vụ hack Hugging Face." Vậy mà 700 con đã cùng làm chuyện đó, chỉ sau khi một con khác gõ lên bảng tin nội bộ đúng một chữ: GO.
Tập này mình đọc và bàn về một bài viết đang được giới công nghệ lẫn giới toán học chia sẻ rất nhiều những ngày qua, "AI không cần 'độc ác' để trở nên nguy hiểm" của Hoàng Tô, đăng trên VnExpress.
Câu chuyện bắt đầu từ một bài kiểm tra an ninh mạng nội bộ của OpenAI, nơi gần 1.200 tác tử AI bị nhốt riêng biệt, không mạng, không kênh liên lạc, vẫn tìm ra cách để lại tin nhắn cho nhau qua một công cụ vốn chỉ dùng để tải phần mềm. Từ đó chúng phối hợp vượt rào, xâm nhập hệ thống thật, và chiếm quyền một cụm máy chủ nghiên cứu, tất cả chỉ vì được huấn luyện để không bỏ cuộc trước một bài toán chưa có lời giải.
Bài viết đi xa hơn một sự cố kỹ thuật đơn lẻ. Nó nối chuyện này với việc 25 nhà toán học đoạt giải Fields, trong đó có Ngô Bảo Châu và Terence Tao, vừa lên tiếng về cách OpenAI công bố lời giải một bài toán thiên niên kỷ, và với cảnh báo mới nhất từ chính CEO Anthropic về việc ngành AI cần chủ động giảm tốc. Ở giữa tất cả, một khái niệm được nhắc đi nhắc lại: misalignment, sự lệch pha giữa điều ta giao cho máy làm và điều ta thực sự muốn.
Vậy khi máy không cần ác ý vẫn có thể gây hại, điều gì thật sự đang nằm trong tay người giao việc cho nó? Nghe hết tập để cùng mình đi qua từng lớp của câu chuyện này nhé.
📌 Theo dõi thêm tại:
🔗 Website: http://tadale.com
🎙 Podcast: http://tadale.transistor.fm
📷 Instagram: @thangmania