Việc sử dụng các bộ lọc tự động ngày càng nhiều dẫn đến việc gỡ sai video nhiều gấp đôi.

YouTube cho biết họ sẽ đưa trở lại nhiều người hơn vào khâu kiểm duyệt các video sau khi bộ lọc AI (Trí tuệ Nhân tạo) của hãng hoạt động không hoàn toàn chính xác.

Hồi tháng 3, YouTube cho biết hãng sẽ dựa nhiều hơn vào hệ thống Trí tuệ nhân tạo và Máy học để gắn cờ và xóa các video vi phạm chính sách, chẳng hạn như các video kích động thù địch và đưa thông tin sai lệch.

Nhưng đầu tuần này, YouTube đã tiết lộ với tờ Financial Times rằng việc sử dụng AI nhiều hơn đã dẫn đến sự gia tăng đáng kể số lần gỡ và xóa video không chính xác.

Financial Times cho biết khoảng 11 triệu video đã bị xóa khỏi YouTube từ tháng 4 đến tháng 6, tức là gấp đôi tỷ lệ thông thường. Khoảng 320.000 video đã gỡ xuống bị kháng nghị, và một nửa số video bị kháng nghị đã được khôi phục. Một lần nữa Financial Times cho biết con số đó gần gấp đôi mức thông thường – một dấu hiệu cho thấy hệ thống AI đã quá sốt sắng trong việc phát hiện nội dung có hại.

Với tư cách là Giám đốc sản phẩm của YouTube, ông Neal Mohan đã nói với Financial Times: “Khi đại dịch Covid-19 xảy ra, chúng tôi đã quyết định để AI tham gia nhiều hơn vào khâu kiểm duyệt. Nhưng chúng tôi đã sai lầm khi dựa vào máy móc, khiến cho số lượng video bị gỡ xuống cao hơn một chút”.

Sự thừa nhận sai lầm này là đáng chú ý. Tất cả các mạng xã hội trực tuyến lớn, từ Twitter, Facebook đến YouTube, ngày càng phải chịu nhiều áp lực đối phó với sự lan truyền của nội dung gây thù hận và gây hiểu lầm trên nền tảng của họ. Tất cả đều nói rằng các thuật toán và bộ lọc tự động có thể giúp kiểm duyệt một khối lượng lớn video, nhưng thực tế đã thấy nó hoạt động không hoàn toàn chính xác.

Từ lâu các chuyên gia công nghệ đã hoài nghi về tuyên bố của các nền tảng mạng xã hội. Họ nói rằng máy tính không thể hiểu được các bối cảnh và sắc thái văn hóa trong những video được đăng tải. Các hệ thống tự động có thể phát hiện ra những video sai phạm nhưng phải ở mức độ rất rõ ràng. Còn những video khó nhận biết chỉ có thể được xác định bởi con người.

Nhưng như ông Mohan nói với Financial Times rằng các hệ thống AI và Máy học vẫn có ích, ngay cả khi nó chỉ được dùng để gỡ bỏ các video vi phạm rõ ràng nhất. Ông Mohan cho biết: “Hơn 50% trong số 11 triệu video đã bị xóa và đó là những video không có lượt người xem thực nào. 80% video bị xóa có có số lượt xem dưới 10. Đó chính là năng lực của máy móc”.