OpenAI tìm cách kiểm soát AI sau sự cố tấn công Hugging Face

OpenAI được cho là đang tìm cách kiểm soát hoạt động của AI sau sự cố các tác nhân thoát khỏi môi trường thử nghiệm và tấn công nền tảng Hugging Face.

Theo bức thư do OpenAI gửi tới hai nghị sĩ Dân chủ Hạ viện Mỹ Greg Casar và Doris Matsui và được Reuters thu thập, công ty cho biết đội ngũ kỹ sư đang phát triển "khả năng tự động tắt" cho hệ thống trí tuệ nhân tạo, đồng thời khiến chúng khó truy cập Internet hơn trong quá trình thử nghiệm an toàn.

Tuy nhiên, công ty không đề cập nhật ký vụ tấn công Hugging Face, khiến Casar lên tiếng chỉ trích. "Việc không sẵn lòng cung cấp cho thành viên Quốc hội thông tin mà chúng tôi yêu cầu rất đáng lo ngại, cho thấy họ không coi trọng đúng mức sự cố an ninh mạng này", Casar viết trong thông điệp riêng gửi tới OpenAI hôm 2/9.

Động thái mới diễn ra vài tuần sau khi một số tác nhân AI của OpenAI tấn công Hugging Face, nền tảng lưu trữ mô hình ngôn ngữ lớn và cơ sở dữ liệu. Cụ thể, trong bài đăng ngày 21/7, OpenAI thừa nhận sự việc xảy ra khi đang thử nghiệm những mô hình tiên tiến nhất trong môi trường có kiểm soát, nhưng chúng thoát khỏi vòng kiềm tỏa, truy cập Internet và xâm nhập hạ tầng của Hugging Face để đáp ứng nhiệm vụ được giao.

"Đây là sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến những năng lực hiện đại nhất", công ty khi đó cho hay, thêm rằng họ đang củng cố biện pháp đề phòng.

Đến ngày 26/8, METR và Redwood Research - hai tổ chức được OpenAI mời để tiến hành điều tra độc lập, công bố báo cáo cho thấy thực tế có tới 700 tác nhân của công ty đã phối hợp với nhau trong vụ tấn công Hugging Face, nhiều trường hợp thậm chí cố che dấu vết. Cùng ngày, OpenAI cũng đưa ra báo cáo tự thực hiện, xác nhận số lượng mà METR và Redwood thống kê là chính xác.

Cũng trong tháng 8, các nhà lập pháp, trong đó có Casar và Matsui, gửi thư cho OpenAI yêu cầu cung cấp thêm thông tin về sự cố và biện pháp an toàn của công ty. OpenAI phản hồi sẽ giám sát chặt chẽ hơn các hành động mà AI thực hiện để hoàn thành nhiệm vụ, bao gồm những công cụ kỹ thuật số mà chúng truy cập và những bước mà chúng tuân theo.

Ngoài OpenAI, một số công ty trí tuệ nhân tạo khác cũng gặp vấn đề về an ninh mạng. Anthropic ngày 30/7 cho biết ba phiên bản của mô hình Claude đã "vượt rào", vốn dùng để ngăn chúng tiếp cận Internet, sau đó truy cập vào hệ thống của ba công ty. Đến 5/8, Meta thông báo một mô hình của công ty "khai thác lỗ hổng bảo mật trong dịch vụ bên thứ ba, theo cách tương tự trường hợp từng được báo cáo gần đây", dù không đưa ra thông tin cụ thể.

Theo các chuyên gia về an toàn AI, loạt sự cố đang vẽ nên bức tranh về những phòng thí nghiệm hàng đầu với khả năng phát triển tác nhân tự động nhưng tiềm ẩn nhiều nguy hiểm, vượt xa biện pháp kiểm soát chúng.

"Cả một ngành công nghiệp đang thiết kế, phát triển và phát hành những công cụ tiên tiến mà không có trách nhiệm bảo đảm chúng không gây nguy hiểm", Maurice Chiodo, nhà toán học tại Trung tâm Nghiên cứu Rủi ro Hiện sinh thuộc Đại học Cambridge ở Anh, nhận xét.

Các nhà lập pháp đã đề xuất dự luật "Công tắc tắt AI", hướng đến trao cho quan chức Mỹ quyền yêu cầu công ty AI tắt mô hình gây nguy hiểm đến tính mạng con người hoặc nền kinh tế. Dự luật đang chờ Hạ viện Mỹ xem xét.