Sam Altman vạch ra năm nguyên tắc vận hành của OpenAI, báo hiệu khả năng hạn chế quyền truy cập năng lực mô hình trong tương lai vì an toàn

Tin tức cổng, ngày 27 tháng 4 — Giám đốc điều hành OpenAI Sam Altman đã công bố năm nguyên tắc vận hành cho công ty dưới chữ ký cá nhân của mình, báo hiệu rằng OpenAI có thể hạn chế quyền truy cập của người dùng vào năng lực của mô hình trong một số giai đoạn nhất định để ưu tiên an toàn. Trong tuyên bố, Altman đã mô tả một kịch bản tương lai có thể nơi công ty sẽ phải “đánh đổi một phần quyền năng để đổi lấy khả năng phục hồi cao hơn.”

Altman nhấn mạnh rằng các quyết định quan trọng về AI cần được đưa ra thông qua các quy trình dân chủ thay vì chỉ do các phòng thí nghiệm AI quyết định. Ông bảo vệ việc OpenAI gần đây đã mua sắm công suất tính toán trên quy mô lớn, xây dựng trung tâm dữ liệu trên toàn cầu và các nỗ lực hội nhập theo chiều dọc, cho biết mục tiêu là giảm chi phí AI để công nghệ trở nên dễ tiếp cận với mọi người. Altman cho rằng các chính phủ có thể cần khám phá các mô hình kinh tế mới để đảm bảo chia sẻ giá trị. Ông cũng nêu bật một kịch bản rủi ro cụ thể: các mô hình cực kỳ mạnh mẽ có thể hạ ngưỡng tạo ra các tác nhân gây bệnh mới, đòi hỏi phản ứng ở cấp độ xã hội.

Altman đã suy ngẫm về sự do dự lịch sử của OpenAI trong việc phát hành trọng số GPT-2, thừa nhận rằng sự thận trọng khi nhìn lại là quá mức, nhưng cho biết nó đã dẫn đến chiến lược triển khai theo từng bước lặp lại mà OpenAI vẫn tiếp tục áp dụng đến ngày nay.