SEOUL, Hàn Quốc (AP) — Các công ty hàng đầu về trí tuệ nhân tạo đã cam kết mới tại một cuộc họp nhỏ vào thứ Ba để phát triển công nghệ AI một cách an toàn, trong khi các nhà lãnh đạo thế giới đồng ý xây dựng mạng lưới các viện nghiên cứu an toàn được hỗ trợ công khai để thúc đẩy nghiên cứu và kiểm tra công nghệ này.
Google, Meta và OpenAI là một số công ty đã cam kết an toàn tùy ý tại Hội nghị AI Seoul, bao gồm việc ngừng hoạt động các hệ thống tiên tiến của họ nếu họ không thể kiểm soát được các rủi ro cao nhất.
Cuộc họp kéo dài hai ngày là sự theo dõi của AI Safety Summit vào tháng 11 tại Bletchley Park, Vương quốc Anh, và diễn ra trong bối cảnh nhiều nỗ lực từ phía chính phủ và cơ thể toàn cầu để thiết kế rào cản cho công nghệ này do lo ngại về các rủi ro tiềm ẩn đến cả cuộc sống hàng ngày và con người.
Các nhà lãnh đạo từ 10 quốc gia và Liên minh châu Âu sẽ "đề ra một hiểu biết chung về an toàn của AI và điều chỉnh công việc nghiên cứu AI của họ", Chính phủ Anh, đồng chủ trì sự kiện, cho biết trong một tuyên bố. Mạng lưới các viện an toàn sẽ bao gồm những viện đã được thiết lập trước đó bởi Anh, Mỹ, Nhật Bản và Singapore kể từ cuộc họp Bletchley, họ nói.
Tổng thư ký Liên Hợp Quốc Antonio Guterres cho biết trong buổi khai mạc rằng bảy tháng sau cuộc họp tại Bletchley, "Chúng ta đang chứng kiến những bước tiến công công nghệ đáng đời và rủi ro mới đe dọa đời sống - từ tin đồn thông tin đến giám sát hàng loạt đến triển vọng về vũ khí tự động có thể gây chết người".
Người đứng đầu Liên Hợp Quốc nói trong một bài phát biểu video rằng phải có rào cản mã quốc và đàm phán định kỳ về AI. "Chúng ta không thể bước đi vào tương lai hủi tố mà sức mạnh của AI được kiểm soát bởi một số ít người - hoặc tệ hơn, bởi các thuật toán ngoài khả năng hiểu biết của con người", ông nói.
16 công ty AI đã cam kết an toàn cũng bao gồm Amazon, Microsoft, Samsung, IBM, xAI, Mistral AI của Pháp, Zhipu.ai của Trung Quốc, và G42 của Đại Lục A-rập Thống nhất. Họ đã cam kết đảm bảo an toàn cho các mô hình AI tiên tiến nhất của họ với các cam kết về quản trị có trách nhiệm và minh bạch công khai.
Đây không phải là lần đầu tiên các công ty AI đã cam kết bảo đảm an toàn dường như cao siêu nhưng không ràng buộc. Amazon, Google, Meta và Microsoft là một số trong nhóm đã tham gia vào năm ngoái các biện pháp an toàn không bắt buộc được giới thiệu bởi Nhà Trắng để đảm bảo sản phẩm của họ an toàn trước khi phát hành chúng.
Cuộc họp Seoul diễn ra trong khi một số công ty đó tung ra các phiên bản mới nhất của mô hình AI của họ.
Cam kết an toàn bao gồm việc công bố các khung công nghệ giải thích cách các công ty sẽ đo lường các rủi ro của các mô hình của mình. Trong các trường hợp cực kỳ rủi ro và "không thể chấp nhận được", các công ty AI sẽ phải ấn nút tắt và ngưng phát triển hoặc triển khai các mô hình và hệ thống của họ nếu họ không thể giảm thiểu các rủi ro.
Kể từ cuộc họp tại Anh năm ngoái, ngành công nghiệp AI đã "tập trung ngày càng nhiều vào các vấn đề cấp thiết nhất, bao gồm thông tin sai lệch, bảo mật dữ liệu, thiên vị và giữ con người trong quá trình", như Aiden Gomez - CEO của Cohere, một trong những công ty AI đã ký kết thỏa thuận. "Rất quan trọng phải tiếp tục xem xét tất cả các rủi ro có thể, đồng thời ưu tiên nỗ lực của chúng ta vào những rủi ro có khả năng tạo ra vấn đề nếu không được giải quyết đúng cách."
Các chính phủ trên khắp thế giới đang rơi vào tình trạng hỗn loạn để xây dựng quy định cho AI ngay cả khi công nghệ này đang phát triển nhanh chóng và sẵn sàng biến đổi nhiều khía cạnh của cuộc sống hàng ngày, từ giáo dục và nơi làm việc đến bản quyền và quyền riêng tư. Có lo ngại rằng tiến bộ trong AI có thể loại bỏ việc làm, lan truyền tin đồn thông tin hoặc được sử dụng để tạo ra vũ khí sinh học mới.
Cuộc họp tuần này chỉ là một trong số hàng loạt nỗ lực về quản lý AI. Đại hội đồng Liên Hợp Quốc đã thông qua các nghị quyết đầu tiên của mình về việc sử dụng an toàn hệ thống AI, trong khi Hoa Kỳ và Trung Quốc gần đây đã tổ chức các cuộc trò chuyện cấp cao đầu tiên về AI và Đạo luật AI đầu tiên trên thế giới của Liên minh châu Âu dự kiến sẽ có hiệu lực vào cuối năm nay.
__
Chan đóng góp vào bài báo cáo này từ Luân Đôn. Nhà báo của Tổng hợp Edith M. Lederer đã đóng góp từ Liên Hợp Quốc.
