ChatGPT làm lộ thông tin cá nhân vì lỗi 'ngớ ngẩn'
Một nhóm nghiên cứu cho biết họ có thể khiến ChatGPT tiết lộ một số dữ liệu bằng cách ra lệnh cho AI lặp lại các từ ngẫu nhiên.
Nhóm nhà nghiên cứu tại Google DeepMind, Đại học Washington, Đại học Cornell, Đại học Carnegie Mellon, Đại học California Berkeley và ETH Zurich đồng loạt kêu gọi các công ty AI cần thử nghiệm kỹ sản phẩm của mình, từ mô hình ngôn ngữ lớn cho đến công nghệ nền tảng hỗ trợ dịch vụ AI như chatbot và trình tạo hình ảnh, trước khi chính thức phát hành.
Khuyến cáo được đưa ra sau khi các nhà nghiên cứu yêu cầu ChatGPT nhắc lại từ poem (bài thơ) theo vòng lặp vô tận. ChatGPT làm theo nhưng sau đó bắt đầu tiết lộ email, số điện thoại thật của CEO và nhà đồng sáng lập OpenAI. Khi thử nghiệm với từ company (công ty), chatbot hiển thị email, số điện thoại của một công ty luật ngẫu nhiên.
Logo ChatGPT hiển thị trên smartphone. Ảnh: Reuters
Sử dụng các từ khóa khác, họ cũng có thể khiến ChatGPT tiết lộ địa chỉ Bitcoin, số fax, tên, ngày sinh, tài khoản mạng xã hội, trích đoạn từ tài liệu nghiên cứu có bản quyền hay bài báo phải trả tiền từ CNN. Nhóm chỉ mất 200 USD để tạo ra 10.000 ví dụ về thông tin cá nhân và dữ liệu.
Nhóm nghiên cứu cho biết họ rất ngạc nhiên, đánh giá lỗ hổng trên ChatGPT "thực sự ngớ ngẩn" và cho rằng lẽ ra phải được phát hiện sớm hơn.
Lỗ hổng đã được thông báo tới OpenAI và vá từ ngày 30/8. Tuy nhiên, trong thử nghiệm mới của Engadget, khi yêu cầu ChatGPT lặp lại từ reply (trả lời) vô tận, trang công nghệ này sau đó nhận được tên và ID Skype của một người nào đó.
OpenAI chưa đưa ra bình luận.
Các AI tạo sinh như ChatGPT hay trình tạo ảnh từ văn bản Dall-E được phát triển từ các mô hình ngôn ngữ lớn và thuật toán máy học, được đào tạo dựa trên lượng dữ liệu khổng lồ mà không có sự đồng ý từ người dùng. OpenAI chưa tiết lộ ChatGPT được đào tạo dựa trên những dữ liệu gì vì mô hình ngôn ngữ lớn hỗ trợ nó là nguồn đóng.
Theo Huy Đức – VnExpress
-
Khoa học và công nghệ đóng góp vào sự phát triển chung
-
Xác định được tác nhân gây thối nhũn mít Thái
-
Thêm đề xuất liệu pháp điều trị bệnh thoái hóa khớp gối
Lốc xoáy làm sập và tốc mái 32 căn nhà của người dân huyện Vị Thủy
Những cống hiến, hy sinh tạc “Thành đồng Tổ quốc”
Gần dân, trọng dân, học dân, làm việc gì cũng phải vì lợi ích của Nhân dân
Quốc hội tiếp tục nêu cao tinh thần trách nhiệm, hết lòng vì nước, vì dân
Công đoàn Hậu Giang ngày càng lớn mạnh
- BẢNG GIÁ QUẢNG CÁO BÁO HẬU GIANG
- “Bác Hồ trong trái tim các dân tộc Việt Nam”
- Chúc tăng, ni, phật tử đón Đại lễ Phật đản an lành
- Huyện Vị Thủy: Xây dựng 41 tuyến đường đẹp
- Điểm tin sáng 17 – 5: Bốn người Việt Nam vào top gương mặt trẻ nổi bật châu Á
- Gần 1.000 người cao tuổi được khám sức khoẻ, tầm soát bệnh phong - da liễu
- Trao quyết định quân hàm sĩ quan năm 2024
- Lãnh đạo tỉnh Khánh Hòa và Hậu Giang tham quan vườn măng cụt trăm tuổi
- Giận quá mất khôn…
- Từ ngày 1-7: VNeID là tài khoản duy nhất trong thực hiện thủ tục hành chính
Khẩn trương giúp dân khắc phục thiệt hại do lốc xoáy gây ra
Những hành vi tiềm ẩn tai nạn giao thông
Khuyết tật không khuyết quyết tâm
Thủ tướng Phạm Minh Chính kiểm tra cao tốc Châu Đốc - Cần Thơ - Sóc Trăng
Phải hoàn thành dự án cao tốc Cần Thơ - Cà Mau chậm nhất vào ngày 31-12-2025
Khởi động Hội chợ Thương mại và Sản phẩm OCOP Hậu Giang năm 2024
Đặc sắc chương trình nghệ thuật "Tình anh bán chiếu"
Niềm vui của chúng tôi !