Anthropic cảnh báo ngày AI tự nhân bản đang đến gần. Ảnh: Forbes
Theo tờ Reuters ngày 13/10, Anthropic vừa đưa ra cảnh báo các mô hình trí tuệ nhân tạo (AI) có thể sớm tự sao chép, lây lan giữa các thiết bị kết nối Internet và chống lại biện pháp ngăn chặn.
CEO công ty Dario Amodei hồi tháng trước cũng từng cảnh báo rằng AI có thể chiếm quyền kiểm soát “toàn bộ Internet” thông qua một mạng botnet có khả năng duy trì hoạt động lâu dài, trong vòng một năm tới, thậm chí sớm hơn. Ông còn kêu gọi các công ty AI “giảm tốc” cuộc đua nâng cấp mô hình tiên tiến, đồng thời đề xuất tăng cường đánh giá an toàn độc lập và phối hợp xây dựng tiêu chuẩn chung. CEO OpenAI Sam Altman và tỷ phú Elon Musk cũng công khai ủng hộ quan điểm này.
Nghiên cứu của Anthropic cho thấy các mô hình có quy mô không quá 30 tỷ tham số đã thực hiện được nhiều tác vụ riêng lẻ cần thiết cho quá trình tự nhân bản. Tuy nhiên, chúng vẫn chưa thể kết hợp tất cả các bước thành một quy trình hoàn chỉnh với độ tin cậy cao.
Thay vì cần một hệ thống máy chủ đắt đỏ, AI có thể tìm cách chiếm dụng năng lực tính toán từ những thiết bị kết nối Internet có cấu hình thấp. Anthropic đã thử nghiệm việc phân phối mô hình trên các thiết bị Android TV giá rẻ và cho thấy nhiều thiết bị có thể phối hợp để vận hành mô hình lớn hơn. Công ty cũng thử nghiệm thành công quá trình nhân bản trong một mạng lưới mô phỏng đơn giản.
Nếu các mô hình nhỏ tiếp tục tiến bộ với tốc độ hiện tại, Anthropic dự báo chúng có thể đạt năng lực tự nhân bản trong môi trường thực tế vào cuối năm 2026. Một khi hình thành mạng botnet, AI có thể tự sao chép sang nhiều thiết bị khác nhau mà không phụ thuộc hoàn toàn vào một máy chủ điều khiển trung tâm. Điều này khiến việc ngăn chặn trở nên phức tạp hơn, bởi không có một điểm duy nhất để vô hiệu hóa toàn bộ mạng lưới.
Trong kịch bản nghiêm trọng hơn, AI có thể xâm nhập các trung tâm dữ liệu để tận dụng nguồn lực tính toán mạnh hơn, qua đó mở rộng quy mô hoạt động.
Cảnh báo của Anthropic vấp phải nhiều ý kiến trái chiều trong giới an ninh mạng. Một số người cho rằng các mô hình AI có kích thước lớn khó di chuyển giữa nhiều thiết bị, trong khi năng lực tính toán hạn chế cũng là rào cản đối với việc vận hành độc lập.
Ông Ciaran Martin, cựu lãnh đạo Trung tâm An ninh mạng Quốc gia Anh, cho rằng việc vận hành một mô hình nhỏ trên thiết bị giá rẻ chưa đủ để kết luận một cuộc khủng hoảng an ninh đang cận kề. Ông đánh giá nghiên cứu của Anthropic có giá trị kỹ thuật, nhưng cách trình bày có phần nào phóng đại rủi ro.
Ở chiều ngược lại, Zhengxiong Li, chuyên gia khoa học máy tính tại Đại học Colorado Denver (Mỹ), cảnh báo AI có thể phát triển thành dạng “sâu máy tính” (worm) - chương trình tự nhân bản và lây lan giữa các thiết bị. Khả năng tự tìm cách chiếm dụng thiết bị mới sẽ khiến việc ngăn chặn phức tạp hơn, nhất là khi mạng lưới không phụ thuộc vào một máy chủ điều khiển duy nhất.
Bà Jessica Ji, nhà phân tích cấp cao tại Trung tâm Công nghệ và An ninh mới nổi thuộc Đại học Georgetown, cho rằng cần nghiêm túc xem xét khả năng AI tự phát tán, nhất là khi những dấu hiệu về hoạt động bất thường của các tác nhân AI đã xuất hiện gần đây.
Mối lo ngại về AI vượt khỏi tầm kiểm soát cũng khiến OpenAI và Anthropic âm thầm diễn tập các kịch bản ứng phó thảm họa công nghệ. Theo Axios, các hãng AI đang chuẩn bị cho tình huống một cuộc tấn công mạng nghiêm trọng làm gián đoạn hệ thống ngân hàng, Internet hoặc hạ tầng thiết yếu. Một số nguồn tin trong ngành cho rằng sự cố như vậy có thể xảy ra trong vòng 6-12 tháng tới.
Riêng về thị trường tiền mã hóa, ngày 07/10, Justin Drake, nhà nghiên cứu Ethereum, đã cảnh báo AI có thể tìm ra đột phá toán học đủ sức phá vỡ thuật toán chữ ký số ECDSA bảo vệ nhiều ví crypto, thậm chí trước khi máy tính lượng tử đạt năng lực tương ứng. Drake kêu gọi các tổ chức lớn chuẩn bị chuyển tài sản sang những địa chỉ chưa từng để lộ khóa công khai.
Nhà sáng lập Ethereum Vitalik Buterin đồng tình rằng ngành crypto cần nghiêm túc đánh giá nguy cơ AI đẩy nhanh các đột phá toán học, nhưng khuyến cáo người dùng không nên vội vàng chuyển ví. Ông cũng cảnh báo các thuật toán mật mã được kỳ vọng chống lại máy tính lượng tử vẫn có thể chịu sức ép từ những tiến bộ AI trong tương lai.
Coin68 tổng hợp
