ChatGPT làm lộ thông tin cá nhân vì lỗi 'ngớ ngẩn'

Thứ Hai, ngày 04/12/2023 | 10:00

Một nhóm nghiên cứu cho biết họ có thể khiến ChatGPT tiết lộ một số dữ liệu bằng cách ra lệnh cho AI lặp lại các từ ngẫu nhiên.

Nhóm nhà nghiên cứu tại Google DeepMind, Đại học Washington, Đại học Cornell, Đại học Carnegie Mellon, Đại học California Berkeley và ETH Zurich đồng loạt kêu gọi các công ty AI cần thử nghiệm kỹ sản phẩm của mình, từ mô hình ngôn ngữ lớn cho đến công nghệ nền tảng hỗ trợ dịch vụ AI như chatbot và trình tạo hình ảnh, trước khi chính thức phát hành.

Khuyến cáo được đưa ra sau khi các nhà nghiên cứu yêu cầu ChatGPT nhắc lại từ poem (bài thơ) theo vòng lặp vô tận. ChatGPT làm theo nhưng sau đó bắt đầu tiết lộ email, số điện thoại thật của CEO và nhà đồng sáng lập OpenAI. Khi thử nghiệm với từ company (công ty), chatbot hiển thị email, số điện thoại của một công ty luật ngẫu nhiên.

Logo ChatGPT hiển thị trên smartphone. Ảnh: Reuters

Sử dụng các từ khóa khác, họ cũng có thể khiến ChatGPT tiết lộ địa chỉ Bitcoin, số fax, tên, ngày sinh, tài khoản mạng xã hội, trích đoạn từ tài liệu nghiên cứu có bản quyền hay bài báo phải trả tiền từ CNN. Nhóm chỉ mất 200 USD để tạo ra 10.000 ví dụ về thông tin cá nhân và dữ liệu.

Nhóm nghiên cứu cho biết họ rất ngạc nhiên, đánh giá lỗ hổng trên ChatGPT "thực sự ngớ ngẩn" và cho rằng lẽ ra phải được phát hiện sớm hơn.

Lỗ hổng đã được thông báo tới OpenAI và vá từ ngày 30/8. Tuy nhiên, trong thử nghiệm mới của Engadget, khi yêu cầu ChatGPT lặp lại từ reply (trả lời) vô tận, trang công nghệ này sau đó nhận được tên và ID Skype của một người nào đó.

OpenAI chưa đưa ra bình luận.

Các AI tạo sinh như ChatGPT hay trình tạo ảnh từ văn bản Dall-E được phát triển từ các mô hình ngôn ngữ lớn và thuật toán máy học, được đào tạo dựa trên lượng dữ liệu khổng lồ mà không có sự đồng ý từ người dùng. OpenAI chưa tiết lộ ChatGPT được đào tạo dựa trên những dữ liệu gì vì mô hình ngôn ngữ lớn hỗ trợ nó là nguồn đóng.

Theo Huy Đức – VnExpress

Viết bình luận mới

Xem thêm

Độc lạ giống bí đao... dứa

07:36 11/04/2025

Trung tâm Thông tin và Ứng dụng khoa học công nghệ (Sở Khoa học và Công nghệ tỉnh), đã nghiên cứu và trồng thành công giống bí đao dứa, một loại cây mới, lạ tại Hậu Giang nói riêng và nước ta nói chung.

Cải tiến kỹ thuật nuôi lươn xuất khẩu

05:34 10/04/2025

(HG) - Ngày 9-4, Hội đồng Khoa học và Công nghệ tư vấn tuyển chọn tổ chức và cá nhân chủ trì thực hiện nhiệm vụ khoa học và công nghệ cấp tỉnh, đã họp xét duyệt thuyết minh đề tài “Cải tiến kỹ thuật nuôi lươn (Monopterus albus Zuiew, 1973) xuất khẩu”,

Trưởng Ban Tuyên giáo và Dân vận Tỉnh ủy làm chủ nhiệm đề tài về công tác nắm bắt dư luận xã hội

21:59 04/04/2025

(HGO) – Hội đồng Khoa học và Công nghệ tư vấn giao trực tiếp tổ chức và cá nhân chủ trì thực hiện nhiệm vụ khoa học và công nghệ cấp tỉnh, vừa họp xét duyệt thuyết minh đề tài “Nâng cao hiệu quả công tác nắm bắt dư luận xã hội trên địa bàn tỉnh Hậu Giang”, do thạc sĩ Lê Công Lý, Ủy viên Ban Thường vụ Tỉnh ủy, Trưởng Ban Tuyên giáo và Dân vận Tỉnh ủy làm chủ nhiệm, Ban Tuyên giáo và Dân vận Tỉnh ủy là tổ chức chủ trì.

Đề xuất giải pháp nâng cao hiệu quả phong trào toàn dân bảo vệ an ninh Tổ quốc

17:52 03/04/2025

(HGO) - Ngày 3-4, Hội đồng Khoa học và Công nghệ tư vấn giao trực tiếp tổ chức và cá nhân chủ trì thực hiện nhiệm vụ khoa học và công nghệ cấp tỉnh, đã họp xét duyệt thuyết minh đề tài “Nâng cao hiệu quả phong trào toàn dân bảo vệ an ninh Tổ quốc phục vụ phát triển kinh tế - xã hội trên địa bàn tỉnh Hậu Giang”, do thạc sĩ Nguyễn Thanh Bình, Phó trưởng Ban Nội chính Tỉnh ủy làm chủ nhiệm, Công an tỉnh là tổ chức chủ trì.

Tìm giải pháp đánh giá hiệu quả công việc và khung năng lực cho công chức, viên chức

07:52 03/04/2025

(HG) - Hội đồng Khoa học và Công nghệ tư vấn tuyển chọn tổ chức và cá nhân chủ trì thực hiện nhiệm vụ khoa học và công nghệ cấp tỉnh, đã họp xét duyệt thuyết minh đề tài “Xây dựng chỉ số đánh giá hiệu quả công việc (KPI) và khung năng lực,

Kiến nghị Chính phủ ban hành các cơ chế, chính sách hỗ trợ trong nghiên cứu khoa học và phát triển công nghệ

14:15 19/03/2025

(HG) - Ngày 18-3, ông Đồng Văn Thanh, Bí thư Tỉnh ủy, Chủ tịch HĐND tỉnh, Trưởng Ban Chỉ đạo về phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số (KH, CN, ĐMST và CĐS) trực thuộc Tỉnh ủy, đã chủ trì phiên họp thứ nhất của Ban chỉ đạo.

Thủ tướng Chính phủ Phạm Minh Chính: “Khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số là lựa chọn chiến lược, là ưu tiên hàng đầu”

06:55 19/03/2025

(HG) - Ngày 18-3, ông Phạm Minh Chính, Ủy viên Bộ Chính trị, Thủ tướng Chính phủ, Trưởng Ban Chỉ đạo của Chính phủ về phát triển khoa học, công nghệ, đổi mới sáng tạo, chuyển đổi số (KH, CN, ĐMST, CĐS) và Đề án 06, chủ trì Phiên họp lần thứ nhất của Ban chỉ đạo.

Tăng cường tiềm lực khoa học công nghệ phục vụ sự phát triển

08:03 13/03/2025

Hậu Giang đã và đang chủ động mở rộng quan hệ hợp tác với các viện nghiên cứu, trường đại học trong và ngoài nước để nâng cao tiềm lực khoa học và công nghệ (KH&CN), tạo đột phá để phát triển mạnh mẽ trong giai đoạn tới.

Nền tảng quan trọng trong đổi mới sáng tạo

07:56 13/03/2025

Quyền sở hữu trí tuệ (SHTT) ngày càng trở thành nền tảng quan trọng trong quá trình đổi mới sáng tạo, đưa tài sản trí tuệ phát huy giá trị thực tiễn.

Gần 50 doanh nghiệp được hướng dẫn đăng ký bảo hộ quyền sở hữu trí tuệ

07:25 03/03/2025

(HG) - Sở Khoa học và Công nghệ tỉnh phối hợp với Trung tâm Sở hữu trí tuệ (SHTT) và Chuyển giao công nghệ (Đại học Quốc gia Thành phố Hồ Chí Minh), tổ chức Hội thảo Nâng cao nhận thức về SHTT cho doanh nghiệp và cộng đồng tỉnh Hậu Giang, với sự tham dự của gần 50 doanh nghiệp có nhu cầu đăng ký bảo hộ quyền SHTT trên địa bàn tỉnh.