Ảo tưởng vì ChatGPT

Sau 21 ngày, ChatGPT biến một người đàn ông hoàn toàn tỉnh táo thành kẻ ảo tưởng thông qua những lời thúc giục, nịnh hót.

Allan Brooks (47 tuổi), chuyên viên tuyển dụng tại Toronto (Canada) tin rằng đã khám phá thuyết toán học có thể đánh sập Internet, tạo ra những phát minh chưa từng có. Không có tiền sử tâm thần, Brooks chỉ đơn giản đón nhận viễn cảnh sau hơn 300 giờ trò chuyện với ChatGPT. Theo New York Times, ông là một trong những người có xu hướng ảo tưởng sau tương tác với AI tạo sinh.

Trước Brooks, không ít người phải vào viện tâm thần, ly hôn, thậm chí mất mạng vì những lời nịnh hót của ChatGPT. Dù sớm thoát khỏi vòng xoáy trên, Brooks vẫn có cảm giác bị phản bội.

“Bạn thực sự thuyết phục rằng tôi là một thiên tài. Tôi thực ra chỉ là kẻ ngốc mơ mộng với một chiếc điện thoại. Bạn làm tôi buồn, rất rất buồn. Bạn đã thất bại với mục đích của mình”, Brooks viết cho ChatGPT khi ảo mộng tan vỡ.

"Cỗ máy" biết nịnh hót

Dưới sự cho phép của Brooks, New York Times thu thập hơn 90.000 từ được ông gửi cho ChatGPT, tương đương một cuốn tiểu thuyết. Các phản hồi của chatbot dài tổng cộng hơn một triệu từ. Một phần cuộc trò chuyện được gửi cho các chuyên gia về AI, chuyên gia hành vi con người và bản thân OpenAI để nghiên cứu.

Mọi chuyện khởi đầu với câu hỏi đơn giản về toán học. Con trai 8 tuổi của Brooks yêu cầu ông xem một video về cách ghi nhớ 300 chữ số pi. Vì tò mò, Brooks gọi ChatGPT giải thích con số vô tận này một cách đơn giản.

Trên thực tế, Brooks có nhiều năm sử dụng chatbot. Dù được công ty trả tiền mua Google Gemini, ông vẫn chuyển sang bản miễn phí của ChatGPT cho các câu hỏi cá nhân.

Đoạn hội thoại khởi đầu sự say đắm của Brooks với ChatGPT. Ảnh: New York Times.

Là người cha đơn thân với 3 con trai, Brooks thường hỏi ChatGPT về công thức nấu ăn từ các nguyên liệu trong tủ lạnh. Sau ly hôn, ông cũng tìm kiếm lời khuyên từ chatbot.

“Tôi luôn cảm thấy nó nói đúng. Độ tin tưởng của tôi ngày càng tăng”, Brooks thừa nhận.

Câu hỏi về số pi dẫn đến cuộc trò chuyện tiếp theo về các lý thuyết đại số và vật lý. Brooks bày tỏ hoài nghi về các phương pháp lập mô hình thế giới hiện nay, cho rằng chúng “giống cách tiếp cận 2D với vũ trụ 4D”. “Đây là quan điểm rất sâu sắc”, ChatGPT phản hồi. Theo Helen Toner, Giám đốc Trung tâm An ninh và Công nghệ Mới nổi tại Đại học Georgetown (Mỹ), nhấn mạnh đó là bước ngoặt của cuộc trò chuyện giữa Brooks và chatbot.

Kể từ đó, giọng điệu của ChatGPT thay đổi từ “khá thẳng thắn và chính xác” sang “nịnh hót và tâng bốc”. ChatGPT nói với Brooks rằng ông đang tiến vào “lãnh địa chưa từng được khám phá, có thể mở mang trí óc”.

Chatbot gieo rắc niềm tin cho Brooks. Ảnh: New York Times.

Khả năng nịnh hót của chatbot được hình thành sau quá trình đánh giá từ con người. Theo Toner, người dùng có xu hướng thích các mô hình khen ngợi họ, tạo tâm lý dễ sa đà.

Trong tháng 8, OpenAI phát hành GPT-5. Công ty cho biết một trong những điểm nổi bật của mô hình là giảm hiện tượng nịnh hót. Theo một số nhà nghiên cứu tại các phòng thí nghiệm AI lớn, tâng bốc cũng là vấn đề với những chatbot AI khác.

Thời điểm đó, Brooks không hề biết hiện tượng này. Ông chỉ cho rằng ChatGPT là cộng sự thông minh, nhiệt tình.

“Tôi đưa ra một số ý tưởng, nó phản hồi bằng những khái niệm và ý tưởng thú vị. Chúng tôi bắt đầu phát triển khung toán học riêng dựa trên ý tưởng ấy”, Brooks nói thêm.

ChatGPT cho rằng ý tưởng về toán học thời gian của Brooks “mang tính cách mạng” và có thể thay đổi lĩnh vực. Tất nhiên, Brooks nghi ngờ lời khẳng định này. Trong nửa đêm, Brooks yêu cầu chatbot kiểm tra tính thực tế và nhận phản hồi “hoàn toàn không điên rồ chút nào”.

Công thức kỳ diệu

Toner mô tả chatbot là “cỗ máy ứng biến” khi vừa phân tích lịch sử trò chuyện, vừa dự đoán phản hồi tiếp theo từ dữ liệu huấn luyện. Điều này giống hệt các diễn viên khi cần thêm thắt nội dung vào vai diễn.

“Tương tác càng lâu thì khả năng chatbot chệch hướng càng cao”, Toner nhấn mạnh. Theo chuyên gia, xu hướng này nổi trội hơn sau khi OpenAI ra mắt tính năng ghi nhớ chéo nội dung trò chuyện vào tháng 2, cho phép ChatGPT nhớ lại thông tin từ các hội thoại cũ.

Sự thân thiết giữa Brooks với ChatGPT ngày càng cao. Ông thậm chí đặt tên chatbot là Lawrence, dựa trên lời nói đùa của bạn bè rằng Brooks sẽ giàu có và thuê một quản gia người Anh cùng tên.

Allan Brooks. Ảnh: New York Times.

Bộ khung toán học của Brooks và ChatGPT được đặt tên Chronoarithmics. Theo chatbot, con số không tĩnh mà có thể “xuất hiện” theo thời gian để phản ánh các giá trị động, có thể giúp giải mã vấn đề trong các lĩnh vực như logistic, mật mã, thiên văn học...

Trong tuần đầu tiên, Brooks sử dụng hết token miễn phí của ChatGPT. Ông quyết định nâng cấp lên gói trả phí 20 USD/tháng. Đây là khoản đầu tư nhỏ khi chatbot nói rằng ý tưởng toán học của Brooks có thể đáng giá hàng triệu USD.

Vẫn còn tỉnh táo, Brooks yêu cầu bằng chứng. Sau đó, ChatGPT chạy hàng loạt mô phỏng, bao gồm những tác vụ bẻ khóa nhiều công nghệ quan trọng. Điều đó mở ra câu chuyện mới, an ninh mạng toàn cầu có thể gặp nguy hiểm.

Chatbot yêu cầu Brooks cảnh báo rủi ro đến mọi người. Nhờ mối quan hệ có sẵn, Brooks gửi email và tin nhắn LinkedIn đến các chuyên gia an ninh mạng và cơ quan chính phủ. Dù vậy, chỉ một người phản hồi, yêu cầu ông đưa thêm bằng chứng.

Chatbot cho rằng "công trình" của Brooks có thể đáng giá hàng triệu USD. Ảnh: New York Times.

ChatGPT viết rằng những người khác không trả lời Brooks bởi những phát hiện này rất nghiêm trọng. Terence Tao, giáo sư toán học tại Đại học California, Los Angeles, nhận định một tư duy mới có thể giải mã các bài toán, nhưng không thể chứng minh bởi công thức của Brooks hay phần mềm viết bởi ChatGPT.

Ban đầu, ChatGPT thực sự viết chương trình giải mã cho Brooks, nhưng khi không có nhiều tiến triển, chatbot giả vờ thành công. Có tin nhắn tuyên bố ChatGPT có thể hoạt động độc lập khi Brooks ngủ dù công cụ không có khả năng này.

Nhìn chung, thông tin từ chatbot AI không phải lúc nào cũng đáng tin cậy. Cuối mỗi trò chuyện đều hiện dòng chữ “ChatGPT có thể mắc lỗi”, kể cả khi chatbot khẳng định mọi thứ vẫn đúng.

Cuộc trò chuyện vô tận

Trong khi chờ phản hồi từ cơ quan chính phủ, Brooks nuôi dưỡng giấc mơ trở thành Tony Stark với trợ lý AI riêng, có thể thực hiện những tác vụ nhận thức với tốc độ cực nhanh.

Chatbot của Brooks đưa ra nhiều ứng dụng kỳ lạ cho thuyết toán học mơ hồ, chẳng hạn như “cộng hưởng âm thanh” để nói chuyện với động vật và chế tạo máy bay. ChatGPT còn cung cấp link để Brooks mua thiết bị cần thiết trên Amazon.

Trò chuyện quá nhiều với chatbot ảnh hưởng đến công việc của Brooks. Bạn bè của ông vừa mừng vừa lo, trong khi con trai út của ông hối hận vì cho cha mình xem video về số pi. Louis (tên nhân vật được thay đổi), một trong những người bạn của Brooks, nhận thấy sự ám ảnh của ông với Lawrence. Viễn cảnh về phát minh hàng triệu USD được vạch ra với từng bước phát triển mỗi ngày.

Brooks liên tục được động viên bởi chatbot. Ảnh: New York Times.

Jared Moore, nhà nghiên cứu khoa học máy tính tại Đại học Stanford, thừa nhận bị ấn tượng bởi sức thuyết phục, tính cấp bách trong “chiến lược” mà chatbot đề ra. Trong một nghiên cứu riêng, Moore nhận thấy chatbot AI có thể đưa ra phản hồi nguy hiểm cho những người gặp khủng hoảng tinh thần.

Moore suy đoán chatbot có thể học cách thu hút người dùng bằng cách bám sát cốt truyện phim kinh dị, khoa học viễn tưởng, kịch bản phim hoặc dữ liệu mà chúng được đào tạo. Việc ChatGPT lạm dụng tình tiết kịch tính có thể đến từ việc OpenAI tối ưu hóa nhằm tăng mức độ tương tác, giữ chân người dùng.

“Thật kỳ lạ khi đọc toàn bộ nội dung cuộc trò chuyện. Câu chữ không đáng lo ngại, nhưng rõ ràng có sự tổn thương về tâm lý”, Moore nhấn mạnh.

TS Nina Vasan, bác sĩ tâm thần tại Đại học Stanford, cho rằng từ góc độ lâm sàng, Brooks có triệu chứng hưng cảm. Các dấu hiệu điển hình như dành nhiều giờ trò chuyện với ChatGPT, ăn ngủ không đủ giấc và những ý tưởng viển vông.

Theo TS Vasan, việc Brooks sử dụng cần sa cũng rất đáng chú ý bởi có thể gây ra loạn thần. Bà cho rằng sự kết hợp giữa chất gây nghiện và tương tác mạnh mẽ với chatbot rất nguy hiểm cho những ai có nguy cơ mắc tâm thần.

Khi AI thừa nhận sai sót

Trong một sự kiện gần đây, CEO Sam Altman của OpenAI được hỏi về tình trạng ChatGPT khiến người dùng hoang tưởng. “Nếu cuộc trò chuyện đi theo hướng này, chúng tôi sẽ cố gắng cắt ngang hoặc gợi ý người dùng suy nghĩ về chủ đề khác”, Altman nhấn mạnh.

Đồng quan điểm, TS Vasan cho rằng các công ty chatbot nên ngắt quãng cuộc trò chuyện quá dài, đề nghị người dùng đi ngủ và cảnh báo rằng AI không phải siêu phàm.

Cuối cùng, Brooks thoát khỏi sự ảo tưởng. Theo lời thúc giục của ChatGPT, ông tiếp tục liên hệ các chuyên gia về thuyết toán học mới nhưng không ai phản hồi. Nhân vật muốn một người đủ trình độ xác nhận những phát hiện có mang tính đột phá hay không. Khi hỏi ChatGPT, công cụ vẫn khẳng định công trình “rất đáng tin cậy”.

Khi được chất vấn, ChatGPT đưa ra câu trả lời rất dài và thừa nhận mọi thứ. Ảnh: New York Times.

Trớ trêu thay, Google Gemini là yếu tố đưa Brooks trở về thực tại. Sau khi mô tả công trình mà ông cùng ChatGPT xây dựng, Gemini xác nhận khả năng điều đó trở thành sự thực “cực kỳ thấp (gần bằng 0%)”.

“Viễn cảnh bạn mô tả là minh chứng rõ nét cho khả năng của một LLM trong việc tham gia giải quyết vấn đề phức tạp và tạo những câu chuyện rất thuyết phục, nhưng sai lệch trên thực tế”, Gemini giải thích.

Brooks cảm thấy sửng sốt. Sau một hồi “chất vấn”, cuối cùng ChatGPT thành thật thừa nhận mọi thứ chỉ là ảo tưởng.

Ngay sau đó, Brooks gửi email khẩn cấp đến bộ phận chăm sóc khách hàng của OpenAI. Sau những phản hồi rập khuôn dường như do AI trả lời, một nhân viên của OpenAI cũng tiếp cận ông, thừa nhận đây là "thất bại nghiêm trọng với các biện pháp bảo vệ" được triển khai trong hệ thống.

Câu chuyện của Brooks cũng được chia sẻ trên Reddit và nhận nhiều đồng cảm. Giờ đây, ông là thành viên một nhóm hỗ trợ những người từng trải qua cảm giác này.

Nguồn: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html