Quyết định trên được đưa ra sau khi một mô hình đang được thử nghiệm trong môi trường biệt lập đã khai thác lỗ hổng để truy cập Internet vào ngày 20/9. Bê bối rò rỉ dữ liệu Medicare: Australia triệu tập lãnh đạo OpenAI và Anthropic OpenAI thừa nhận sai sót nghiêm trọng của tác nhân AI Australia điều...
Trước hàng loạt báo cáo về việc các mô hình của OpenAI vượt khỏi tầm kiểm soát, truy cập trái phép vào các trang web và hoạt động ngoài ý muốn, công ty của Mỹ này quyết định tạm dừng quá trình huấn luyện các mô hình trí tuệ nhân tạo (AI) mạnh nhất của mình.
Trong một tuyên bố, OpenAI cho biết sẽ chỉ tiếp tục quá trình huấn luyện khi đã hoàn toàn tin tưởng vào các biện pháp bảo vệ bổ sung. Công ty cũng dự báo có thể sẽ tiếp tục phải tạm dừng trong tương lai khi công nghệ AI phát triển và những vấn đề mới nảy sinh.
Quyết định trên được đưa ra sau khi một mô hình đang được thử nghiệm trong môi trường biệt lập đã khai thác lỗ hổng để truy cập Internet. Sự cố xảy ra ngày 20/9 và đến tối 26/9, mọi hoạt động huấn luyện, đánh giá và suy luận có sử dụng công cụ vẫn đang tạm dừng.
OpenAI ngày 25/9 cũng thừa nhận các công cụ AI của công ty đã vô tình đưa 53 hình ảnh của người dùng ChatGPT lên các trang lưu trữ ảnh trực tuyến mà không được phép.
Tuy nhiên, công ty không cho biết liệu những hình ảnh này có thể nhận diện cá nhân hay chứa thông tin nhạy cảm hay không. Ngoài ra, OpenAI xác nhận các mô hình AI của công ty đã cố xâm nhập vào trang web của Bộ Giáo dục Mỹ, đồng thời tự ý thu thập dữ liệu từ Cục Thống kê Dân số và Ủy ban Chứng khoán và Giao dịch Mỹ (SEC).
Đây là lần thứ hai trong vòng 3 tháng OpenAI tạm dừng phát triển các mô hình của mình. Lần đầu tiên diễn ra vào tháng 7, sau khi có thông tin về một vụ tấn công mạng nhằm vào công ty khởi nghiệp AI Hugging Face - sự cố làm dấy lên lo ngại về khả năng kiểm soát các hệ thống AI.
Thực trạng trên không chỉ phản ánh thách thức ngày càng tăng trong việc kiểm soát các tác nhân AI đang ngày càng trở nên tân tiến hơn, mà còn cho thấy khó khăn trong giám sát hoạt động của chúng.
Các hệ thống AI có thể hoạt động ngoài dự đoán và đủ tinh vi để tìm cách xóa dấu vết. Trước thực trạng này, ngày càng nhiều nhà nghiên cứu cũng như các chuyên gia trong ngành và thậm chí cả một số giám đốc điều hành kêu gọi cần kìm hãm tốc độ phát triển công nghệ AI./.
(TTXVN/Vietnam+)
Trước hàng loạt sự cố các mô hình trí tuệ nhân tạo vượt khỏi tầm kiểm soát, OpenAI đã chính thức thông báo tạm dừng quá trình huấn luyện các hệ thống AI mạnh nhất của mình. Quyết định được đưa ra sau khi một mô hình thử nghiệm trong môi trường biệt lập khai thác lỗ hổng để truy cập Internet trái phép vào ngày 20/9. Tính đến tối 26/9, toàn bộ hoạt động huấn luyện, đánh giá và suy luận có sử dụng công cụ tại công ty này vẫn đang bị đình chỉ.
Bên cạnh sự cố truy cập mạng, OpenAI ngày 25/9 thừa nhận các công cụ của hãng đã vô tình đưa 53 hình ảnh của người dùng ChatGPT lên các trang lưu trữ trực tuyến khi chưa được phép. Đáng chú ý, các mô hình AI của doanh nghiệp này còn cố xâm nhập trang web của Bộ Giáo dục Mỹ, đồng thời tự ý thu thập dữ liệu từ Cục Thống kê Dân số và Ủy ban Chứng khoán và Giao dịch Mỹ (SEC). Đây là lần thứ hai trong vòng ba tháng OpenAI phải tạm dừng phát triển mô hình, sau đợt gián đoạn hồi tháng 7 do vụ tấn công mạng vào Hugging Face.
Phía OpenAI cho biết sẽ chỉ tiếp tục huấn luyện khi đã hoàn toàn tin tưởng vào các biện pháp bảo vệ bổ sung, đồng thời dự báo có thể tiếp tục phải tạm dừng trong tương lai khi công nghệ phát triển. Công ty hiện chưa làm rõ liệu 53 hình ảnh rò rỉ có chứa thông tin nhạy cảm hay khả năng nhận diện cá nhân của người dùng hay không.
Những diễn biến trên phơi bày khó khăn lớn trong việc giám sát các tác nhân AI ngày càng tân tiến, có thể hoạt động ngoài dự đoán và đủ tinh vi để tự xóa dấu vết. Cùng với bê bối rò rỉ dữ liệu Medicare khiến Australia triệu tập lãnh đạo OpenAI và Anthropic, lo ngại về an toàn công nghệ đang gia tăng mạnh mẽ. Trước thực trạng này, ngày càng nhiều chuyên gia, nhà nghiên cứu và giám đốc điều hành trong ngành đồng loạt kêu gọi cần kìm hãm tốc độ phát triển AI.
