Hai kẻ tấn công nổ súng vào cộng đồng người Do Thái đang mừng lễ Hanukkah tại Bondi Beach, Sydney, ngày 14/12 (Chủ nhật), khiến 16 người chết, gồm 15 nạn nhân và một kẻ tấn công; trong số nạn nhân có trẻ em. Các video hiện trường lan nhanh trên mạng xã hội.

Những đoạn ghi hình cũng xuất hiện trên nền tảng X (X), nhưng hệ thống trí tuệ nhân tạo của nền tảng này đã xử lý sai lệch thông tin liên quan vụ việc.

Theo trang công nghệ Gizmodo (Gizmodo), chatbot Grok đưa ra các câu trả lời thiếu chính xác hoặc không liên quan. Có lúc nó khẳng định video khống chế kẻ tấn công chỉ là một clip cũ, trong đó một người đàn ông leo lên cây ở bãi đỗ xe và cưa cành rơi trúng ô tô, trong khi thực tế Ahmed al Ahmed đã thực sự tước vũ khí một kẻ tấn công và bị thương.

Grok cũng diễn giải sai một bức ảnh chụp người đàn ông sau hành động khống chế trong tình trạng bị thương, nói rằng đó là ảnh một con tin Israel bị Hamas bắt cóc trong cuộc tấn công nhằm vào Israel.

Những phản hồi này cho thấy chatbot của X tiếp tục gặp vấn đề nghiêm trọng về độ tin cậy và bám sát thực tế. Trước đó, hệ thống này từng có phát ngôn mang màu sắc phát xít và tỏ ra “hoài nghi” về số người thiệt mạng trong Holocaust.

Ngoài ra, Thổ Nhĩ Kỳ đã cấm chatbot sau khi nó đưa ra phát ngôn bị cho là xúc phạm Erdogan.

Sự cố lần này tiếp tục đặt dấu hỏi về năng lực xử lý thông tin khủng hoảng của Grok, đặc biệt khi nội dung bạo lực và nhạy cảm lan truyền nhanh trên mạng xã hội.