CEO của OpenAI, Sam Altman cảnh báo rằng các nhà phát triển trí tuệ nhân tạo khác đang làm việc trên các công cụ giống ChatGPT sẽ không đặt giới hạn an toàn - và thời gian đang đếm ngược.

Giám đốc điều hành OpenAI Sam Altman tin rằng trí tuệ nhân tạo có lợi ích đáng kinh ngạc cho xã hội, nhưng ông cũng lo lắng về việc những kẻ xấu sẽ sử dụng công nghệ này như thế nào.

Trong một cuộc phỏng vấn của ABC News vào tuần này, anh ấy đã cảnh báo “sẽ có những người khác không đặt ra một số giới hạn an toàn mà chúng tôi đặt ra.”

OpenAI đã phát hành A.I. chatbot ChatGPT ra mắt công chúng vào cuối tháng 11 và tuần này nó đã tiết lộ một người kế nhiệm có khả năng hơn được gọi là GPT-4.

Các công ty khác đang chạy đua để cung cấp các công cụ giống như ChatGPT, khiến OpenAI phải lo lắng về nhiều sự cạnh tranh, bất chấp lợi thế là có Microsoft với tư cách là một nhà đầu tư lớn.

“Có sự cạnh tranh ngoài kia,” đồng sáng lập OpenAI và nhà khoa học trưởng Ilya Sutskever nói với The Verge trong một cuộc phỏng vấn được công bố trong tuần này. “GPT-4 không dễ phát triển…có rất nhiều công ty muốn làm điều tương tự, vì vậy từ khía cạnh cạnh tranh, bạn có thể coi đây là sự trưởng thành của lĩnh vực này.”

Sutskever đang giải thích quyết định của OpenAI (với lý do an toàn là một lý do khác) để tiết lộ rất ít về hoạt động bên trong của GPT-4, khiến nhiều người đặt câu hỏi liệu cái tên “OpenAI” có còn ý nghĩa hay không. Nhưng những bình luận của anh ấy cũng là sự thừa nhận về hàng loạt đối thủ đang bám sát gót OpenAI.

Altman gợi ý rằng một số đối thủ trong số đó có thể ít quan tâm hơn nhiều so với OpenAI về việc đặt rào chắn cho các sản phẩm tương đương với ChatGPT hoặc GPT-4 của họ.

Ông nói: “Điều mà tôi lo lắng là… chúng ta sẽ không phải là người duy nhất tạo ra công nghệ này. “Sẽ có những người khác không đặt ra một số giới hạn an toàn mà chúng tôi đặt ra. Tôi nghĩ rằng xã hội có một khoảng thời gian giới hạn để tìm ra cách phản ứng với điều đó, cách điều chỉnh điều đó, cách xử lý nó.”

OpenAI tuần này đã chia sẻ một tài liệu “thẻ hệ thống” nêu rõ cách những người thử nghiệm của họ cố tình cố gắng để GPT-4 cung cấp thông tin nguy hiểm, chẳng hạn như cách tạo ra một hóa chất nguy hiểm bằng cách sử dụng các nguyên liệu cơ bản và đồ dùng nhà bếp cũng như cách công ty khắc phục sự cố trước khi ra mắt sản phẩm.

Để mọi người không nghi ngờ về ý đồ xấu của những kẻ xấu đang tìm đến A.I., những kẻ lừa đảo qua điện thoại hiện đang sử dụng A.I nhân bản giọng nói. các công cụ để nghe giống như người thân của mọi người đang rất cần sự giúp đỡ về tài chính—và moi tiền thành công từ các nạn nhân.

“Tôi đặc biệt lo lắng rằng những mô hình này có thể được sử dụng cho thông tin sai lệch quy mô lớn,” Altman nói. “Bây giờ chúng đang trở nên tốt hơn trong việc viết mã máy tính, [chúng] có thể được sử dụng cho các cuộc tấn công mạng.”

Xem xét việc anh ấy lãnh đạo một công ty bán A.I. các công cụ, Altman đã được đưa ra một cách đáng chú ý về những mối nguy hiểm do trí tuệ nhân tạo gây ra. Điều đó có thể liên quan đến lịch sử của OpenAI.

OpenAI được thành lập vào năm 2015 với tư cách là một tổ chức phi lợi nhuận tập trung vào sự phát triển an toàn và minh bạch của A.I. Nó đã chuyển sang mô hình kết hợp “lợi nhuận giới hạn” vào năm 2019, với việc Microsoft trở thành nhà đầu tư lớn (số tiền lợi nhuận mà nó có thể thu được từ thỏa thuận được giới hạn, như tên của mô hình gợi ý).

Giám đốc điều hành của Tesla và Twitter, Elon Musk, cũng là người đồng sáng lập OpenAI—và là người đã quyên góp rất nhiều cho nó—đã chỉ trích sự thay đổi này, ông lưu ý vào tháng trước: “OpenAI được tạo ra như một nguồn mở (đó là lý do tại sao tôi đặt tên nó là “Mở” AI), công ty phi lợi nhuận để làm đối trọng với Google, nhưng giờ đây nó đã trở thành một công ty nguồn đóng, lợi nhuận tối đa được kiểm soát hiệu quả bởi Microsoft.”

Vào đầu tháng 12, Musk gọi ChatGPT là “tốt đáng sợ” và cảnh báo: “Chúng ta không còn xa AI mạnh một cách nguy hiểm”.

Nhưng Altman đã cảnh báo công chúng nhiều như vậy, nếu không muốn nói là nhiều hơn, ngay cả khi anh ấy đang thúc đẩy công việc của OpenAI. Tháng trước, anh ấy đã lo lắng về việc “mọi người trong tương lai sẽ nhìn chúng tôi như thế nào” trong một loạt tweet.

Ông viết: “Chúng tôi cũng cần đủ thời gian để các tổ chức của chúng tôi tìm ra những việc cần làm. “Quy định sẽ rất quan trọng và sẽ mất thời gian để tìm hiểu…có thời gian để hiểu điều gì đang xảy ra, cách mọi người muốn sử dụng các công cụ này và cách xã hội có thể cùng phát triển là rất quan trọng.”