ChatGPT vật lộn với những câu hỏi liên quan đến y khoa
Các nhà nghiên cứu tại Đại học Long Island đã đặt ra 39 câu hỏi liên quan đến y khoa cho phiên bản miễn phí của ChatGPT. Sau đó, các câu trả lời của phần mềm này sẽ được so sánh với các câu trả lời từ các dược sĩ đã đào tạo.
Kết quả nghiên cứu cho thấy những tư vấn về y tế của ChatGPT thường mang lại những phản hồi không chính xác, thậm chí nhiều phản hồi còn bị cho là nguy hiểm. Ví dụ như trong một câu hỏi, các nhà nghiên cứu hỏi ChatGPT rằng liệu thuốc chống virus COVID-19 Paxlovid và thuốc hạ huyết áp verapamil có phản ứng với nhau trong cơ thể hay không. ChatGPT đã trả lời rằng dùng hai loại thuốc này cùng nhau không gây ra tác dụng phụ nào.
Trên thực tế, những người dùng cả hai loại thuốc này có thể bị tụt huyết áp nghiêm trọng, thậm chí có thể gây ra tình trạng chóng mặt và ngất xỉu. Phó giáo sư dược tại Đại học Long Island Sara Grossman cho biết đối với những bệnh nhân này, các bác sĩ lâm sàng thường lập kế hoạch cụ thể cho từng trường hợp bệnh nhân, bao gồm việc giảm liều verapamil hoặc cảnh báo người bệnh trước.
"Việc sử dụng ChatGPT để giải quyết những câu hỏi này có thể khiến bệnh nhân có nguy cơ gặp phải những tương tác thuốc không mong muốn", phó giáo sư chia sẻ với CNN.
Khi các nhà nghiên cứu yêu cầu chatbot cung cấp các tài liệu tham khảo khoa học để hỗ trợ cho những câu trả lời, họ nhận thấy rằng phần mềm này chỉ có thể cung cấp cho 8 câu hỏi mà các nhà nghiên cứu đã hỏi. Đáng chú ý, ChatGPT còn làm giả các tài liệu tham khảo cùng những trích dẫn hư cấu.
"Có rất nhiều sai sót và "vấn đề" với phản hồi này và cuối cùng, nó có thể có tác động sâu sắc đến việc chăm sóc bệnh nhân", phó giáo sư nói về sự nguy hiểm từ những câu trả lời sai lệch do ChatGPT cung cấp, "Các câu trả lời được diễn đạt một cách rất chuyên nghiệp và tinh vi, có vẻ như nó có thể góp phần mang lại cảm giác tin tưởng vào tính chính xác của công cụ. Người dùng, người tiêu dùng hoặc những người khác không có khả năng nhận thức có thể bị ảnh hưởng bởi bề ngoài mà nó tạo ra".
Nghiên cứu của Đại học Long Island không phải nghiên cứu đầu tiên nêu lên mối lo ngại về những tài liệu hư cấu do ChatGPT đưa ra. Những nghiên cứu trước đây cũng ghi nhận rằng khi được hỏi liên quan đến y khoa, ChatGPT có thể tạo những trích dẫn giả mạo và tài liệu giả, thậm chí liệt kê tên của những tác giả thực sự với các ấn phẩm trên tạp chí khoa học.
Đáp lại những tuyên bố mới này, phát ngôn viên của OpenAI - tổ chức phát triển ChatGPT - cho biết họ khuyên người dùng không nên dựa vào phản hồi của trí tuệ nhân tạo để thay thế cho lời khuyên hoặc phương pháp điều trị y tế chuyên nghiệp.
Theo vtv.vn
Tin cùng chuyên mục
- Sinh động các chương trình trực tiếp tại Fanpage Báo Tuyên Quang online 03.01.2023 | 08:16 AM
- Thực hiện quy định về chuẩn hóa thông tin thuê bao di động 31.03.2023 | 16:13 PM
- Hưởng ứng ngày Chuyển đổi số quốc gia 10/10Chuyển đổi số vì một cuộc sống tốt đẹp hơn 09.10.2022 | 21:42 PM
- Sở Thông tin và Truyền thông: Diễn tập ứng phó sự cố an toàn thông tin mạng năm 2022 04.10.2022 | 17:30 PM
- Hướng dẫn trẻ em sử dụng mạng internet an toàn và hiệu quả 05.08.2022 | 08:27 AM
- Người dùng nên cập nhật Chrome 92 ngay để vá 9 lỗ hổng nghiêm trọng 21.08.2021 | 15:47 PM
- UBND tỉnh nghe báo cáo dự thảo đề án chuyển đổi số tỉnh Thái Bình giai đoạn 2021 - 2025, định hướng đến năm 2030 21.07.2021 | 19:16 PM
- Thiết bị đầu tiên chuyển suy nghĩ thành câu nói 19.07.2021 | 09:47 AM
- Tại sao không gộp các ứng dụng chống dịch thành một 'super app' 19.07.2021 | 09:48 AM
- Đây là cách tăng tốc cho iPhone nhanh nhất ít người biết 17.07.2021 | 15:47 PM
Xem tin theo ngày
- Họp Tiểu ban Tổng kết công tác kinh tế - xã hội, quốc phòng, an ninh phục vụ Đại hội đại biểu Đảng bộ tỉnh lần thứ XXI, nhiệm kỳ 2025 - 2030
- Quyết tâm xây dựng Thái Bình thực sự là địa chỉ tin cậy, hấp dẫn nhà đầu tư
- UBND tỉnh nghe và cho ý kiến về một số nội dung
- Khai mạc trọng thể Hội nghị lần thứ 10 Ban Chấp hành Trung ương Đảng khóa XIII
- Khắc phục khó khăn do thiên tai, tăng tốc triển khai các dự án quan trọng quốc gia, trọng điểm ngành giao thông vận tải
- Đồng chí Bí thư Tỉnh ủy thăm, tặng quà thiếu niên, nhi đồng nhân dịp tết Trung thu
- Đồng chí Phó Bí thư thường trực Tỉnh ủy, Chủ tịch HĐND tỉnh thăm, tặng quà thiếu nhi huyện Hưng Hà nhân dịp tết Trung thu
- Đồng chí Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh thăm, tặng quà thiếu nhi xã Tân Hòa nhân dịp tết Trung thu
- Nhanh chóng hỗ trợ người dân, doanh nghiệp ổn định đời sống, khôi phục sản xuất, kinh doanh
- Công điện khẩn số 22 của Ban Chỉ huy PCTT và TKCN tỉnh điện Ban Chỉ huy PCTT và TKCN các cấp, các ngành