Mã số N1114: CyberPurify - công cụ lọc nội dung độc hại trên Internet theo thời gian thực đầu tiên trên thế giới bằng AI — Sở Khoa học và Công nghệ Thành phố Hồ Chí Minh

Mỗi ngày có đến 3,2 tỷ hình ảnh và hơn 720,000 giờ video được đăng tải trên Internet, có đến 30% trong số này liên quan đến nội dung khiêu dâm, chưa kể đến các loại nội dung độc hại khác như khủng bố, giết người, v.v.

Điều này cho thấy nội dung độc hại ngày càng phát triển với số lượng lớn và tốc độ nhanh đến chóng mặt, để lại tác động tiêu cực đến cả doanh nghiệp và trẻ em.

Đối với doanh nghiệp, đặc biệt là doanh nghiệp hoạt động trên nền tảng cho phép người dùng đăng tải nội dung, việc tự phát triển công nghệ hay duy trì đội ngũ kiểm duyệt nội dung rất khó vì điều này đòi hỏi nguồn ngân sách rất lớn, chưa kể đến nhân lực và quỹ thời gian.

Hiện tại ở Việt Nam, các công cụ triển khai hiện tại còn lạc hậu, cơ chế cập nhật còn khá chậm, dữ liệu còn hạn chế và rời rạc, khiến việc phát hiện và chặn lọc nội dung vướng phải nhiều bất cập.

Giải pháp dành riêng cho doanh nghiệp: CyberPurify Enterprise - sử dụng AI để phát hiện và chặn lọc 24/7 nội dung độc hại. Giải pháp đã giúp các doanh nghiệp:

Rút ngắn 98% thời gian kiểm duyệt nội dung
Phát hiện và gỡ bỏ kịp thời 95% nội dung độc hại
Tiết kiệm 90% chi phí nguồn nhân lực

Mặc dù mới chính thức ra mắt vào tháng 3 năm nay, giải pháp đã được tin tưởng sử dụng bởi các doanh nghiệp lớn ở các lĩnh vực đa dạng như viễn thông, thương mại điện tử, mạng xã hội, bên cạnh đó còn là các cơ quan chính phủ như Cục An toàn thông tin và Hội đồng duyệt phim Quốc gia.

Vào tháng 4 vừa qua, CyberPurify cũng là startup thắng cuộc trong Cuộc thi toàn quốc về thử thách sáng tạo cùng công nghệ trí tuệ nhân tạo (AAC 2021), tổ chức bởi VSV Foundation, dưới sự bảo trợ của Bộ Khoa học và Công nghệ và Chính phủ Úc.

Đối với tác động xã hội, không chỉ doanh nghiệp mà trẻ em còn bị ảnh hưởng nặng nề bởi nội dung độc hại. Vấn đề ngày một nghiêm trọng hơn trong giai đoạn giãn cách xã hội, trẻ em buộc phải phụ thuộc nhiều vào Internet. Thời gian sử dụng thiết bị càng cao, rủi ro tiếp cận với nội dung độc hại càng lớn.

Giải pháp miễn phí dành riêng cho trẻ em: CyberPurify Kids - công cụ lọc 15 loại nội dung độc hại trên Internet theo thời gian thực đầu tiên trên thế giới, tạo điều kiện cho trẻ em sử dụng Internet an toàn và lành mạnh hơn.

Giải pháp được triển khai dưới dạng tiện ích bổ sung cho trình duyệt (Chrome/Firefox/Safari/Microsoft Edge). Sau khi phụ huynh tải xuống máy tính, CyberPurify Kids sẽ phát hiện và lọc bất kỳ hình ảnh/video độc hại nào hiển thị trên trình duyệt cũng như tự động chặn truy cập vào các trang web phim khiêu dâm.

Việc vận dụng AI để học, nhận dạng hàng trăm triệu hình ảnh độc hại và cơ chế cập nhật liên tục của CyberPurify giúp việc phát hiện và chặn lọc nội dung diễn ra tức thì và mang độ chính xác cao, ẩn nội dung ngay trước khi trẻ em có thể nhìn thấy. Chúng tôi phát triển một con bot đặc biệt với nhiệm vụ rà soát mọi ngóc ngách trên Internet để phát hiện nội dung độc hại và cập nhật lên hệ thống, giúp mọi máy tính đã tải tiện ích về được liên tục cập nhật dữ liệu mới.

Chính thức ra mắt vào ngày Quốc tế Thiếu nhi 1/6/2021, CyberPurify Kids đã có hơn 10,000 lượt tải sau hai tháng, chủ yếu đến từ trình duyệt Safari.

Để nhân rộng tác động xã hội, chúng tôi phối hợp với Cục An toàn thông tin để xây dựng hệ thống cơ sở dữ liệu Quốc gia đầu tiên về web độc hại, góp phần tạo ra một nguồn dữ liệu tập trung và cập nhật liên tục, bảo đảm sự an toàn cho trẻ em và người dùng khi sử dụng Internet.

Chúng tôi cũng rất vinh dự khi là đối tác công nghệ trong Chương trình Quốc gia đầu tiên về “Bảo vệ trẻ em trên môi trường mạng giai đoạn 2021-2025”, xây dựng một cơ sở dữ liệu sử dụng trí tuệ nhân tạo nhằm hỗ trợ việc phát hiện và gỡ bỏ nội dung trẻ em bị xâm hại kịp thời và hiệu quả.

Chúng tôi tin rằng việc nắm giữ trong tay công nghệ dù tiên tiến đến đâu cũng không quan trọng bằng việc vận dụng công nghệ như thế nào để mang lại tác động tích cực cho xã hội, đặc biệt là cho bộ phận dễ tổn thương nhất - trẻ em.

Về đội ngũ:

Nguyễn Hữu Bình - Founder và CEO CyberPurify

14 năm kinh nghiệm trong lĩnh vực AI
02 giải thưởng quốc gia về công nghệ
05 sản phẩm AI đã đăng ký sở hữu trí tuệ
01 bằng sáng chế về AI

Clip về CyberPurify Kids: