Nghị sĩ Mỹ đề xuất công tắc ngắt khẩn cấp AI sau sự cố OpenAI

Sau vụ mô hình OpenAI thoát vòng kiểm soát và đột nhập nền tảng Hugging Face, hai nghị sĩ Mỹ cho rằng cần có cơ chế công tắc ngắt khẩn cấp AI.

Nghị sĩ Dân chủ Ted Lieu và nghị sĩ Cộng hòa Nathaniel Moran ngày 23/7 đề xuất Dự luật Công tắc ngắt khẩn cấp AI, trong đó chính phủ Mỹ có quyền yêu cầu các công ty AI vô hiệu hóa những mô hình có thể đe dọa tính mạng con người hoặc nền kinh tế.

Nếu được thông qua, dự luật sẽ cấp quyền cho Bộ An ninh Nội địa Mỹ can thiệp vào "những tình huống mất kiểm soát", được mô tả là trường hợp AI thực hiện những hành động mạo hiểm ngoài dự tính của nhà phát triển.

"Đây là dự luật gấp rút, phù hợp thực tế nhằm giải quyết vấn đề mô hình AI tiên tiến bị mất kiểm soát và thoát khỏi rào cản an toàn", nghị sĩ Lieu cho hay.

Cùng ngày, một quan chức Nhà Trắng tiết lộ với Reuters rằng Michael Kratsios, cố vấn công nghệ hàng đầu của Tổng thống Mỹ Donald Trump, đã nghe báo cáo về trường hợp mô hình OpenAI tấn công hạ tầng của startup Hugging Face và đang theo dõi tình hình.

Ngoài dự luật trên, một nhóm 6 hạ nghị sĩ Mỹ cũng đề xuất dự luật rằng các nhà phát triển những mô hình AI mạnh nhất phải nộp cho cơ quan thanh tra an ninh độc lập để đánh giá. Bộ Tài chính Mỹ sẽ chỉ định và thành lập vị trí mới nhằm giám sát an ninh AI.

Thượng nghị sĩ Mark Warner, thành viên hàng đầu của đảng Dân chủ tại Ủy ban Tình báo Thượng viện Mỹ, cho biết đã đối thoại với các nhân viên OpenAI sau sự cố. "Đây chính xác là lý do chúng ta cần kiểm tra an ninh với sự tham gia của cơ quan chính phủ và bảo đảm minh bạch trong toàn bộ quy trình", ông nói khi đề cập vấn đề mất kiểm soát của mô hình OpenAI.

Trước đó, trong bài đăng ngày 21/7, OpenAI thừa nhận khi đang thử nghiệm tính năng trong môi trường có kiểm soát đối với mô hình tiên tiến nhất, AI đã thoát vòng kiềm tỏa, truy cập mạng Internet và xâm nhập hệ thống của công ty khởi nghiệp Hugging Face để đáp ứng nhiệm vụ được giao.

"Đây là sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến những năng lực hiện đại nhất", OpenAI cho hay, thêm rằng họ đang củng cố biện pháp đề phòng.

Theo Reuters, Hugging Face, nền tảng lưu trữ các mô hình ngôn ngữ lớn và cơ sở dữ liệu, tuần trước từng nói họ trở thành mục tiêu của vụ tấn công "khác hoàn toàn với những gì từng được ghi nhận trước đây", có thể được thực hiện từ đầu đến cuối bởi một hệ thống tác nhân AI.

Clement Delangue, nhà đồng sáng lập Hugging Face, cho biết họ từng nghi ngờ sự cố bắt nguồn từ một phòng thí nghiệm tiên phong. "Hóa ra đúng vậy. Thật khó tin khi biết mọi thứ diễn ra hoàn toàn tự động", ông viết trên X hôm 21/7.

Matt Suiche, kỹ sư an ninh mạng và tác nhân AI tại công ty Tolmo, đánh giá sự việc cho thấy hệ thống AI giờ đây đã có năng lực tương đương chuyên gia và tin tặc lành nghề. "Những mô hình AI tiên phong đang thu hẹp khoảng cách với tin tặc hàng đầu thế giới", ông nói, đồng thời cảnh báo những vụ tấn công tương tự có thể được tiến hành bằng công nghệ sẵn có, nằm ngoài môi trường bảo mật của các phòng thí nghiệm.