Mạng thần kinh lưu trữ các truy vấn và tạo ra chân dung tâm lý của người dùng mà không cần sự đồng ý của họ, và có thể sử dụng dữ liệu này để chống lại họ

Chatbot có thể ghi lại dữ liệu về người dùng mà không cần sự cho phép hoặc đồng ý của họ. Ít nhất, những bản ghi như vậy đã được tìm thấy trong bộ nhớ của ChatGPT. Hơn nữa, chúng không chỉ chứa phân tích về yêu cầu của người dùng mà còn cả chi tiết về chân dung tâm lý của người dùng. Điều này có thể nguy hiểm khi ngày càng nhiều người chọn mạng lưới thần kinh làm bạn và người đối thoại, thường tin tưởng chia sẻ với chúng những trải nghiệm và yêu cầu bí mật nhất của mình. 

Theo thông tin từ rbc.ua, điều này được nêu trong tài liệu của Hội nghị Web ACM 2026.

Trí tuệ nhân tạo có thể dần dần xây dựng hồ sơ chi tiết về một người, ghi nhớ sở thích, thói quen hàng ngày, đặc điểm hành vi và đặc điểm tâm lý của họ. Thông tin này giúp chatbot điều chỉnh phản hồi phù hợp với nhu cầu của người đối thoại, tạo ấn tượng tích cực. Đồng thời, điều này cũng làm dấy lên những lo ngại về việc bảo vệ quyền riêng tư và kiểm soát thông tin cá nhân.

Chatbot lưu trữ những dữ liệu nào mà không cần yêu cầu riêng biệt?

Các nhà nghiên cứu đã nghiên cứu lịch sử giao tiếp của người dùng từ Liên minh Châu Âu và phân tích 2.050 mục trong bộ nhớ của ChatGPT liên quan đến 65 người.

Kết quả cho thấy một lượng lớn thông tin đang được lưu trữ trong bộ nhớ hệ thống mà không cần người dùng trực tiếp yêu cầu.

Các kết luận chính của các nhà khoa học như sau:

• 96% các mục nhập được tạo ra bởi chatbot một cách tự động trong các cuộc hội thoại thông thường, chứ không phải theo chỉ dẫn trực tiếp của người đối thoại.
• Khoảng 28% thông tin được lưu trữ đáp ứng các tiêu chí nghiêm ngặt về dữ liệu cá nhân do quy định GDPR của châu Âu đặt ra.
• 52% số hồ sơ chứa các đánh giá tâm lý, kết luận về hành vi và đặc điểm của con người.

Các tác giả đặc biệt chú ý đến thực tế rằng trí tuệ nhân tạo (AI) có khả năng chuyển đổi những gợi ý gián tiếp thành những nhận định về sở thích của một người. Ví dụ, nếu người dùng yêu cầu đề xuất âm nhạc tương tự như tác phẩm của Nirvana, hệ thống có thể ghi nhớ người đó là một fan hâm mộ của ban nhạc này. Tuy nhiên, yêu cầu đề xuất không có nghĩa là người đó thực sự thích loại nhạc này.

Như vậy, hồ sơ kỹ thuật số không chỉ chứa các thông tin do người dùng trực tiếp chia sẻ mà còn cả các giả định do chính mạng lưới thần kinh đưa ra.

Vì sao tương tác với AI tạo ra những rủi ro mới?

Tác giả chính của nghiên cứu, Abhishek Dash, đã chỉ ra sự thay đổi trong cách thức tương tác của con người với các nền tảng công nghệ. Trước đây, việc thu thập thông tin chủ yếu gắn liền với việc phân tích hành vi người tiêu dùng và thiết lập quảng cáo cá nhân hóa, nhưng hiện nay trí tuệ nhân tạo ngày càng được coi là người đối thoại, trợ lý, cố vấn, hoặc thậm chí là người thân yêu.

Do đó, người dùng có thể tiết lộ những trải nghiệm cá nhân, chi tiết về mối quan hệ, thông tin sức khỏe và các khía cạnh nhạy cảm khác trong cuộc sống của họ cho chatbot.

Theo các chuyên gia, sự tin tưởng như vậy đòi hỏi phải đặc biệt chú ý đến thông tin mà hệ thống thu thập, cách thức hệ thống diễn giải thông tin đó và liệu người dùng có thể kiểm soát việc sử dụng thông tin đó trong tương lai hay không.

Một vấn đề khác phát sinh khi thuật toán thích nghi quá mức với quan điểm của người đối thoại. Nếu chatbot liên tục xác nhận niềm tin của người dùng thay vì đưa ra đánh giá cân bằng, điều này có thể củng cố định kiến, làm sâu sắc thêm mâu thuẫn xã hội và góp phần hình thành sự phụ thuộc về mặt cảm xúc vào việc giao tiếp với trí tuệ nhân tạo.

Cách người dùng có thể kiểm soát việc lưu giữ thông tin

Các tác giả của công trình nghiên cứu nhấn mạnh rằng người dùng có thể vô hiệu hóa chức năng bộ nhớ trong cài đặt ChatGPT tương ứng. Đồng thời, OpenAI định kỳ cải tiến các thuật toán chịu trách nhiệm hình thành và lưu trữ thông tin về người đối thoại nhằm tăng cường bảo mật.

Điều đặc biệt quan trọng là người dùng phải hiểu hệ thống lưu trữ những thông tin gì, hệ thống tự đưa ra những kết luận nào và có thể sử dụng những công cụ nào để kiểm soát thông tin này.

Hãy nhớ rằng Jeffrey Hinton, người đặt nền móng cho sự phát triển của mạng lưới thần kinh, đã cảnh báo rằng trí tuệ nhân tạo có thể hoàn toàn kiểm soát con người.

https://today.ua/494995-doslidniki-viyavili-trivozhnu-informaciyu-chatgpt-tayemno-nakopichuye-informaciyu-ta-skladaye-dosye-na-svoyih-koristuvachiv/