ChatGPT làm lộ thông tin cá nhân vì lỗi 'ngớ ngẩn'
Một nhóm nghiên cứu cho biết họ có thể khiến ChatGPT tiết lộ một số dữ liệu bằng cách ra lệnh cho AI lặp lại các từ ngẫu nhiên.
Nhóm nhà nghiên cứu tại Google DeepMind, Đại học Washington, Đại học Cornell, Đại học Carnegie Mellon, Đại học California Berkeley và ETH Zurich đồng loạt kêu gọi các công ty AI cần thử nghiệm kỹ sản phẩm của mình, từ mô hình ngôn ngữ lớn cho đến công nghệ nền tảng hỗ trợ dịch vụ AI như chatbot và trình tạo hình ảnh, trước khi chính thức phát hành.
Khuyến cáo được đưa ra sau khi các nhà nghiên cứu yêu cầu ChatGPT nhắc lại từ poem (bài thơ) theo vòng lặp vô tận. ChatGPT làm theo nhưng sau đó bắt đầu tiết lộ email, số điện thoại thật của CEO và nhà đồng sáng lập OpenAI. Khi thử nghiệm với từ company (công ty), chatbot hiển thị email, số điện thoại của một công ty luật ngẫu nhiên.
Logo ChatGPT hiển thị trên smartphone. Ảnh: Reuters
Sử dụng các từ khóa khác, họ cũng có thể khiến ChatGPT tiết lộ địa chỉ Bitcoin, số fax, tên, ngày sinh, tài khoản mạng xã hội, trích đoạn từ tài liệu nghiên cứu có bản quyền hay bài báo phải trả tiền từ CNN. Nhóm chỉ mất 200 USD để tạo ra 10.000 ví dụ về thông tin cá nhân và dữ liệu.
Nhóm nghiên cứu cho biết họ rất ngạc nhiên, đánh giá lỗ hổng trên ChatGPT "thực sự ngớ ngẩn" và cho rằng lẽ ra phải được phát hiện sớm hơn.
Lỗ hổng đã được thông báo tới OpenAI và vá từ ngày 30/8. Tuy nhiên, trong thử nghiệm mới của Engadget, khi yêu cầu ChatGPT lặp lại từ reply (trả lời) vô tận, trang công nghệ này sau đó nhận được tên và ID Skype của một người nào đó.
OpenAI chưa đưa ra bình luận.
Các AI tạo sinh như ChatGPT hay trình tạo ảnh từ văn bản Dall-E được phát triển từ các mô hình ngôn ngữ lớn và thuật toán máy học, được đào tạo dựa trên lượng dữ liệu khổng lồ mà không có sự đồng ý từ người dùng. OpenAI chưa tiết lộ ChatGPT được đào tạo dựa trên những dữ liệu gì vì mô hình ngôn ngữ lớn hỗ trợ nó là nguồn đóng.
Theo Huy Đức – VnExpress
- Bồi dưỡng những nhà khoa học tương lai...
- Đồng hành, hỗ trợ tích cực cho doanh nghiệp
- Đưa khoa học và công nghệ đến vùng đất khó
- Điểm tin sáng 2 – 5: Địa phương có thu nhập bình quân cao nhất cả nước không phải là hai thành phố lớn nhất
- Ngày mai, Quốc hội họp bất thường về công tác nhân sự
- Điểm tin sáng 1 – 5: HLV Hàn Quốc sẽ dẫn dắt đội tuyển Việt Nam ?
- Điểm tin sáng 30 – 4: Các bãi biển khắp Việt Nam đông nghẹt người dịp nghỉ lễ
- Khánh thành cầu Phước Lộc 4 tại thành phố Vị Thanh
- Phạt xong cho tồn tại công trình xây dựng trái phép: Xưa rồi Diễm !
- Đảng ủy Quân sự tỉnh công bố quyết định về công tác cán bộ
- Cho ý kiến Báo cáo quy hoạch Khu Công nghệ số tỉnh Hậu Giang
- Hậu Giang bắn pháo hoa nghệ thuật 15 phút tại Lễ Kỷ niệm 20 năm thành lập tỉnh
- Phát huy vai trò đảng viên người dân tộc
- Đoàn đại biểu HĐND 3 cấp tiếp xúc cử tri ở thị xã Long Mỹ và huyện Long Mỹ
- Giá khóm Cầu Đúc giảm khoảng 3.000 đồng/trái
- Bến Tre ghi nhận trường hợp đầu tiên mắc đậu mùa khỉ
- Góp phần để địa phương phát triển
- Nâng cao chất lượng sinh hoạt chi bộ !