Chuyên gia Nga giải thích lý do AI tạo ra thông tin giả

30/07/2025 19:19 GMT+7 | Tin tức 24h

Mới đây các chuyên gia của ngân hàng VTB đã lý giải về sự xuất hiện "ảo giác" của trí tuệ nhân tạo (AI), vốn là nguồn gốc dẫn đến các thông tin giả.

Ảo giác AI là hiện tượng một mạng nơ-ron tạo ra văn bản hợp lý trong câu trả lời của mình, nhưng với các sự kiện hư cấu - là đặc thù của việc học và vận hành các mô hình ngôn ngữ. Các nhà phân tích của ngân hàng VTB giải thích, các câu trả lời của AI được hình thành không phải dựa trên sự hiểu biết mà dựa trên các kết nối xác suất trong dữ liệu huấn luyện. Do đó, khi thiếu thông tin, mô hình sẽ "nghĩ ra" các chi tiết, các hạn chế về mẫu và việc không thể kiểm tra thông tin theo thời gian thực làm tăng nguy cơ sai sót, đặc biệt là trong các lĩnh vực hiếm gặp hoặc đặc thù.

Theo ông Lev Merkushov, người đứng đầu bộ phận giải pháp AI của VTB, có những trường hợp mạng nơ-ron đưa ra những cuốn sách không tồn tại trong danh sách đề xuất hoặc tạo ra các điều kiện sản phẩm không tồn tại, mô hình không kiểm tra thông tin thực tế mà chọn câu trả lời có khả năng xảy ra cao nhất, do đó các lỗi trông có vẻ hợp lý nhưng lại gây nhầm lẫn.

Trí tuệ nhân tạo: Chuyên gia Nga giải thích lý do AI tạo ra thông tin giả - Ảnh 1.

Trí tuệ nhân tạo có thể khiến tin giả có độ chân thực bất ngờ. Ảnh minh hoạ: Internet

Ông Merkuchov cho rằng để giảm thiểu số lượng " AI-ảo giác", cần phải xây dựng các yêu cầu rõ ràng và tiến hành xác minh kết quả bằng con người. Theo ông, công thức càng chính xác và dễ hiểu thì mô hình càng ít có khả năng bắt đầu ảo tưởng. Tuy nhiên, phương pháp kiểm soát đáng tin cậy nhất vẫn là việc kiểm tra kết quả cẩn thận của con người.

Trong khi đó, chuyên gia Alexey Pustynnikov cũng của VTB tin rằng việc lọc dữ liệu nguồn và chỉ đưa các nguồn đã được xác minh vào đào tạo AI là rất quan trọng, mặc dù điều này làm tăng chi phí tạo mô hình.

VTB nhấn mạnh rằng việc sử dụng trí tuệ nhân tạo không chỉ đòi hỏi sự trưởng thành về công nghệ mà còn đòi hỏi thái độ có trách nhiệm đối với chất lượng dữ liệu, tính minh bạch của các thuật toán và khả năng kiểm soát kết quả.

Giới chuyên gia cũng đã tổng kết một số ví dụ phổ biến về ảo giác của AI. Các mô hình AI đôi khi tạo ra các trích dẫn giả bằng cách trích dẫn các bài báo nghiên cứu không tồn tại hoặc gán kết quả cho sai tác giả, gây khó khăn cho các nhà nghiên cứu dựa vào AI để đánh giá tài liệu. Những tin tức, bài viết do AI tạo ra có thể chứa các sự kiện, con người hoặc số liệu thống kê hư cấu, dẫn đến thông tin sai lệch là điều đáng lo ngại trong báo chí và diễn giải các phát biểu chính trị. Trong lĩnh vực y tế, các mô hình AI được đào tạo dựa trên dữ liệu y tế có thể đưa ra các chẩn đoán và khuyến nghị điều trị hư cấu, điều này có thể gây nguy hiểm cho người dùng nếu không tham khảo ý kiến chuyên gia.

XEM THÊM TIN TỨC THỜI SỰ TẠI ĐÂY

Tâm Hằng/TTXVN

Tags:
Cùng chuyên mục
Xem theo ngày
Đọc thêm
90 tv soi kèo hôm nay Keonhacai1 90ph tv bong da tv Gái Xinh mitomtv mitom link