CEO OpenAI Sam Altman đang cân nhắc làm chậm tốc độ phát triển các hệ thống trí tuệ nhân tạo (AI) tiên tiến, trong bối cảnh lo ngại về an toàn ngày càng gia tăng. Theo Bloomberg, phương án này có thể được triển khai tự nguyện với sự tham gia của nhiều phòng nghiên cứu AI, nhằm tạo thêm thời gian xây dựng các tiêu chuẩn an toàn chung.
Sam Altman cân nhắc giảm tốc độ phát triển AI
Theo Bloomberg, Sam Altman đã đề cập khả năng làm chậm quá trình phát triển AI tiên tiến trong một cuộc họp toàn công ty diễn ra tuần này.
Ý tưởng được đưa ra là một số công ty AI có thể tự nguyện điều chỉnh tốc độ phát triển các hệ thống ngày càng mạnh mẽ. Tuy nhiên, không phải tất cả phòng nghiên cứu AI đều có thể đồng ý với phương án này.
Cuộc thảo luận diễn ra trong bối cảnh ngành AI ngày càng quan ngại rằng tốc độ phát triển năng lực của các mô hình có thể vượt quá khả năng kiểm soát và bảo đảm an toàn.
OpenAI đã tạm dừng một số hoạt động huấn luyện AI
OpenAI trước đó đã thực hiện một số biện pháp nhằm giảm tốc độ phát triển các mô hình mới.
Tháng 8, công ty cho biết đã tạm dừng hoạt động huấn luyện bằng phương pháp reinforcement learning đối với các mô hình mới nhất trong hai tuần, sau một sự cố liên quan đến một AI agent và Hugging Face.
Trong thời gian này, OpenAI tập trung tăng cường các biện pháp bảo mật, giám sát và căn chỉnh mô hình (alignment).
Đợt huấn luyện reinforcement learning quy mô lớn nhất được OpenAI lên kế hoạch cho các mô hình AI tiên tiến hiện vẫn đang tạm dừng để chờ tiến hành thêm các thử nghiệm.
Các phòng nghiên cứu AI lớn cũng cảnh báo về rủi ro
Lo ngại về tốc độ phát triển AI không chỉ xuất hiện tại OpenAI.
Các nhà nghiên cứu tại Anthropic và Google DeepMind cũng công khai cảnh báo về những rủi ro có thể phát sinh khi năng lực của các hệ thống AI ngày càng tăng nhanh.
Jakub Pachocki, nhà khoa học trưởng của OpenAI, gần đây kêu gọi các công ty AI tự nguyện làm chậm tốc độ phát triển cho đến khi ngành thiết lập được các tiêu chuẩn an toàn chung.
Ông cảnh báo rằng không công ty nào có thể chắc chắn năng lực bảo đảm an toàn của mình sẽ theo kịp tốc độ phát triển của những hệ thống AI ngày càng mạnh.
Vấn đề này cũng thu hút sự chú ý từ giới chức Mỹ. Các nghị sĩ tại Thượng viện đã tăng cường giám sát hoạt động của OpenAI, trong đó có cuộc điều tra về cách công ty xử lý vụ việc liên quan đến Hugging Face.
Áp lực cân bằng giữa tăng trưởng và an toàn AI
Cuộc tranh luận diễn ra đúng thời điểm OpenAI và Anthropic được cho là đang chuẩn bị cho khả năng niêm yết cổ phiếu ra công chúng.
Điều này khiến nhà đầu tư đặc biệt quan tâm đến cách các công ty cân bằng giữa giá trị thương mại của việc đẩy nhanh tiến bộ AI và chi phí, rủi ro đi kèm với những hệ thống ngày càng mạnh.
Nếu tốc độ phát triển bị điều chỉnh, các công ty có thể phải đánh đổi một phần lợi thế thương mại để đổi lấy thời gian xây dựng hệ thống kiểm soát và an toàn tốt hơn.
Ở chiều ngược lại, việc tiếp tục tăng tốc cũng có thể làm gia tăng áp lực từ cơ quan quản lý và giới nghiên cứu về những rủi ro chưa được kiểm soát.
OpenAI kêu gọi xây dựng tiêu chuẩn an toàn AI bắt buộc
Bên cạnh các cuộc thảo luận nội bộ, OpenAI cũng đã kêu gọi Quốc hội Mỹ thiết lập các yêu cầu an toàn AI bắt buộc trên phạm vi toàn quốc.
Đề xuất của công ty bao gồm đánh giá độc lập đối với các hệ thống AI, tăng cường biện pháp an ninh mạng và yêu cầu doanh nghiệp báo cáo các sự cố liên quan đến AI.
Những động thái này cho thấy cuộc tranh luận về AI đang chuyển từ câu hỏi “phát triển nhanh đến đâu” sang vấn đề “làm thế nào để kiểm soát rủi ro khi AI ngày càng mạnh”.
Trong bối cảnh OpenAI, Anthropic và nhiều phòng nghiên cứu khác tiếp tục chạy đua phát triển AI tiên tiến, việc thiết lập các tiêu chuẩn an toàn chung có thể trở thành một trong những vấn đề quan trọng nhất đối với ngành công nghệ trong thời gian tới.
TUYÊN BỐ MIỄN TRÁCH NHIỆM: Giao dịch ngoại hối (Forex), hàng hóa và các sản phẩm tài chính khác có mức độ rủi ro cao và không phù hợp với tất cả nhà đầu tư. Bạn có thể mất toàn bộ số vốn đã đầu tư. Nội dung trên website danhgiasan.com chỉ mang tính chất thông tin và tham khảo, không phải lời khuyên tài chính hay đầu tư. Hãy cân nhắc kỹ lưỡng và tham khảo chuyên gia tài chính độc lập trước khi đưa ra bất kỳ quyết định đầu tư nào. Danhgiasan.com không chịu trách nhiệm về bất kỳ tổn thất tài chính nào phát sinh từ việc sử dụng thông tin trên website.