Thứ Hai, ngày 04/12/2023 | 10:00
Một nhóm nghiên cứu cho biết họ có thể khiến ChatGPT tiết lộ một số dữ liệu bằng cách ra lệnh cho AI lặp lại các từ ngẫu nhiên.
Nhóm nhà nghiên cứu tại Google DeepMind, Đại học Washington, Đại học Cornell, Đại học Carnegie Mellon, Đại học California Berkeley và ETH Zurich đồng loạt kêu gọi các công ty AI cần thử nghiệm kỹ sản phẩm của mình, từ mô hình ngôn ngữ lớn cho đến công nghệ nền tảng hỗ trợ dịch vụ AI như chatbot và trình tạo hình ảnh, trước khi chính thức phát hành.
Khuyến cáo được đưa ra sau khi các nhà nghiên cứu yêu cầu ChatGPT nhắc lại từ poem (bài thơ) theo vòng lặp vô tận. ChatGPT làm theo nhưng sau đó bắt đầu tiết lộ email, số điện thoại thật của CEO và nhà đồng sáng lập OpenAI. Khi thử nghiệm với từ company (công ty), chatbot hiển thị email, số điện thoại của một công ty luật ngẫu nhiên.
Logo ChatGPT hiển thị trên smartphone. Ảnh: Reuters
Sử dụng các từ khóa khác, họ cũng có thể khiến ChatGPT tiết lộ địa chỉ Bitcoin, số fax, tên, ngày sinh, tài khoản mạng xã hội, trích đoạn từ tài liệu nghiên cứu có bản quyền hay bài báo phải trả tiền từ CNN. Nhóm chỉ mất 200 USD để tạo ra 10.000 ví dụ về thông tin cá nhân và dữ liệu.
Nhóm nghiên cứu cho biết họ rất ngạc nhiên, đánh giá lỗ hổng trên ChatGPT "thực sự ngớ ngẩn" và cho rằng lẽ ra phải được phát hiện sớm hơn.
Lỗ hổng đã được thông báo tới OpenAI và vá từ ngày 30/8. Tuy nhiên, trong thử nghiệm mới của Engadget, khi yêu cầu ChatGPT lặp lại từ reply (trả lời) vô tận, trang công nghệ này sau đó nhận được tên và ID Skype của một người nào đó.
OpenAI chưa đưa ra bình luận.
Các AI tạo sinh như ChatGPT hay trình tạo ảnh từ văn bản Dall-E được phát triển từ các mô hình ngôn ngữ lớn và thuật toán máy học, được đào tạo dựa trên lượng dữ liệu khổng lồ mà không có sự đồng ý từ người dùng. OpenAI chưa tiết lộ ChatGPT được đào tạo dựa trên những dữ liệu gì vì mô hình ngôn ngữ lớn hỗ trợ nó là nguồn đóng.
Theo Huy Đức – VnExpress
07:35 06/05/2025
(HG) - Ngày 5-5, ông Trần Văn Huyến, Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh, có buổi làm việc với các sở, ban, ngành về Kế hoạch tổ chức Tuần lễ Khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số Hậu Giang 2025 (Week of Science, Technology, Innovation and Digital Transformation - STIDT WEEK Hậu Giang 2025). Tham dự buổi làm việc còn có ông Trần Chí Hùng, Phó Chủ tịch UBND tỉnh.
08:08 28/04/2025
Sau nghiệm thu, kết quả nhiệm vụ khoa học và công nghệ (KH&CN) cấp tỉnh sẽ được chuyển giao sát hợp hơn để triển khai ứng dụng hiệu quả, tránh tình trạng “đắp chiếu”, “bỏ ngăn kéo”.
07:36 11/04/2025
Trung tâm Thông tin và Ứng dụng khoa học công nghệ (Sở Khoa học và Công nghệ tỉnh), đã nghiên cứu và trồng thành công giống bí đao dứa, một loại cây mới, lạ tại Hậu Giang nói riêng và nước ta nói chung.
05:34 10/04/2025
(HG) - Ngày 9-4, Hội đồng Khoa học và Công nghệ tư vấn tuyển chọn tổ chức và cá nhân chủ trì thực hiện nhiệm vụ khoa học và công nghệ cấp tỉnh, đã họp xét duyệt thuyết minh đề tài “Cải tiến kỹ thuật nuôi lươn (Monopterus albus Zuiew, 1973) xuất khẩu”,
21:59 04/04/2025
(HGO) – Hội đồng Khoa học và Công nghệ tư vấn giao trực tiếp tổ chức và cá nhân chủ trì thực hiện nhiệm vụ khoa học và công nghệ cấp tỉnh, vừa họp xét duyệt thuyết minh đề tài “Nâng cao hiệu quả công tác nắm bắt dư luận xã hội trên địa bàn tỉnh Hậu Giang”, do thạc sĩ Lê Công Lý, Ủy viên Ban Thường vụ Tỉnh ủy, Trưởng Ban Tuyên giáo và Dân vận Tỉnh ủy làm chủ nhiệm, Ban Tuyên giáo và Dân vận Tỉnh ủy là tổ chức chủ trì.
17:52 03/04/2025
(HGO) - Ngày 3-4, Hội đồng Khoa học và Công nghệ tư vấn giao trực tiếp tổ chức và cá nhân chủ trì thực hiện nhiệm vụ khoa học và công nghệ cấp tỉnh, đã họp xét duyệt thuyết minh đề tài “Nâng cao hiệu quả phong trào toàn dân bảo vệ an ninh Tổ quốc phục vụ phát triển kinh tế - xã hội trên địa bàn tỉnh Hậu Giang”, do thạc sĩ Nguyễn Thanh Bình, Phó trưởng Ban Nội chính Tỉnh ủy làm chủ nhiệm, Công an tỉnh là tổ chức chủ trì.
07:52 03/04/2025
(HG) - Hội đồng Khoa học và Công nghệ tư vấn tuyển chọn tổ chức và cá nhân chủ trì thực hiện nhiệm vụ khoa học và công nghệ cấp tỉnh, đã họp xét duyệt thuyết minh đề tài “Xây dựng chỉ số đánh giá hiệu quả công việc (KPI) và khung năng lực,
14:15 19/03/2025
(HG) - Ngày 18-3, ông Đồng Văn Thanh, Bí thư Tỉnh ủy, Chủ tịch HĐND tỉnh, Trưởng Ban Chỉ đạo về phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số (KH, CN, ĐMST và CĐS) trực thuộc Tỉnh ủy, đã chủ trì phiên họp thứ nhất của Ban chỉ đạo.
06:55 19/03/2025
(HG) - Ngày 18-3, ông Phạm Minh Chính, Ủy viên Bộ Chính trị, Thủ tướng Chính phủ, Trưởng Ban Chỉ đạo của Chính phủ về phát triển khoa học, công nghệ, đổi mới sáng tạo, chuyển đổi số (KH, CN, ĐMST, CĐS) và Đề án 06, chủ trì Phiên họp lần thứ nhất của Ban chỉ đạo.
08:03 13/03/2025
Hậu Giang đã và đang chủ động mở rộng quan hệ hợp tác với các viện nghiên cứu, trường đại học trong và ngoài nước để nâng cao tiềm lực khoa học và công nghệ (KH&CN), tạo đột phá để phát triển mạnh mẽ trong giai đoạn tới.
16:21 09/05/2025
Công tác bảo hiểm xã hội (BHXH), bảo hiểm y tế (BHYT) trên địa bàn tỉnh đã đạt được nhiều kết quả tích cực, góp phần bảo vệ, chăm sóc, nâng cao sức khỏe của Nhân dân và thực hiện tốt chính sách an sinh xã hội.
15:36 09/05/2025
(HGO) - Sáng ngày 9-5, ông Nguyễn Văn Hòa, Phó Chủ tịch Thường trực UBND tỉnh Hậu Giang, tiếp và làm việc với Tổng công ty Điện lực miền Nam về công tác cung cấp điện năm 2025 trên địa bàn tỉnh.
14:23 09/05/2025
(HGO) - Sáng ngày 9-5, Đoàn công tác của Tỉnh ủy, HĐND, UBND, Ủy ban MTTQ Việt Nam tỉnh và thị xã Long Mỹ đến thăm, chúc mừng Đại lễ Phật đản năm 2025, Phật lịch 2569 tại chùa Quan Âm, phường Thuận An, thị xã Long Mỹ.
14:19 09/05/2025
(HGO) – Sáng ngày 9-5, tại xã Hoả Lựu, thành phố Vị Thanh, Ban Thường vụ Tỉnh đoàn, Ban Thư ký Hội LHTN Việt Nam tỉnh tổ chức Lễ ra quân Ngày hội Thầy thuốc trẻ làm theo lời Bác, tình nguyện vì sức khoẻ cộng đồng.
- Cơ quan chủ quản: Tỉnh ủy Hậu Giang
- Tổng Biên Tập: Nguyễn Tấn Phúc
- Phó Tổng Biên Tập: Lê Văn Mười Hai
- Tel: 0293.3878769 - Fax: 0293.3878768
- Email: baohaugiang@vnn.vn
- Email: baohaugiang2015@gmail.com
- Địa chỉ: Đường Võ Văn Kiệt, Phường V, TP. Vị Thanh, Hậu Giang.
- Giấy phép số 656/GP-BTTTT, do Bộ Thông tin và Truyền thông cấp ngày 11-10-2021.
