Làm sao biết AI sắp hủy diệt nền văn minh nhân loại
Những dấu hiệu cảnh báo trong lĩnh vực trí tuệ nhân tạo (AI) cho thấy các robot siêu thông minh đang dần hiện thực. Liệu một sáng nào đó chúng ta thức dậy và chết lặng chứng kiến AI siêu mạnh xuất hiện với những hậu quả tai hại?
Có một thành ngữ chỉ dấu hiệu cảnh báo sớm mối nguy hiểm đó là “chim hoàng yến trong hầm mỏ”. Thành ngữ này bắt nguồn từ việc các thợ mỏ ở các nước phương Tây trước kia có thói quen mang một lồng chim hoàng yến xuống hầm mỏ để khi lượng khí độc như methane hay CO2 trong hầm vượt quá nồng độ an toàn thì con chim hoàng yến sẽ chết trước, giúp thợ mỏ nhận ra nguy hiểm và kịp thời rút ra khỏi hầm.
Trong lĩnh vực AI, liệu bài kiểm tra Turing nổi tiếng có thể đóng vai trò như một con chim hoàng yến? Bài kiểm tra được Alan Turing đưa ra vào năm 1950, cho rằng AI đạt được đẳng cấp con người khi khiến cho người ta không phân biệt được đang trò chuyện với người hay với máy tính. Đó là một bài kiểm tra quan trọng, nhưng nó không phải là một con chim hoàng yến, đúng hơn nó là dấu hiệu cho thấy AI đã đạt đến đẳng cấp con người. Nhiều nhà khoa học máy tính tin rằng nếu đến thời điểm đó, siêu trí tuệ sẽ nhanh chóng theo sau. Chúng ta cần các cột mốc sớm hơn.
Năng lực AI trong các trò chơi như Go, poker hay Quake 3 có phải là con chim hoàng yến? Không phải vậy. Phần lớn cái gọi là AI trong các trò chơi này thực sự là công việc của con người, từ đặt ra bài toán đến thiết kế giải pháp. Chiến thắng của AlphaGo trước các nhà vô địch cờ vây bằng xương bằng thịt là công trạng của đội ngũ con người tài năng tại DeepMind, chứ không phải cỗ máy chỉ chạy thuật toán do đội ngũ đó tạo ra. Điều này giải thích tại sao phải mất nhiều năm làm việc vất vả để tiếp nối thành công AI từ lĩnh vực hẹp này. Ngay cả cỗ máy AlphaZero có thể học chơi cờ vây đẳng cấp thế giới trong vài giờ nhưng cũng không thể mở rộng phạm vi hoạt động kể từ năm 2017. Các phương pháp như học sâu có tính tổng quát, nhưng ứng dụng thành công cho một nhiệm vụ cụ thể cần có sự can thiệp của con người.
Học máy là cốt lõi của những thành công AI trong hơn thập kỷ qua. Tuy nhiên, thuật ngữ “học máy” là một cách hiểu sai. Máy móc chỉ có được một phần nhỏ khả năng học tập đa dạng và phong phú của con người. Nói máy học giống như nói chim con biết săn mồi. Thực tế là, chim bố mẹ bay lượn, săn mồi, rỉa rồi mớm cho chim con. AI cũng được các nhà khoa học và kỹ sư của con người “mớm cho ăn”.
Trái ngược với học máy, việc học của con người phát xuất từ động cơ cá nhân (muốn lái xe để tự đi) dẫn đến kế hoạch học tập. Con người đề ra các mục tiêu học tập cụ thể (đậu xe song song), thu thập và gắn nhãn dữ liệu (góc này đã sai trong lần này) và kết hợp với phản hồi bên ngoài và kiến thức cơ bản (người hướng dẫn giải thích cách sử dụng gương chiếu hậu). Con người nhận diện, lên chương trình và sắp xếp các vấn đề học tập. Máy móc chưa bắt chước được chút nào trong số những khả năng này của con người. Máy móc có thể thực hiện các tính toán thống kê siêu phàm, nhưng đó chỉ là chặng cuối của việc học.
Tự động đề ra các vấn đề học tập chính là con chim hoàng yến đầu tiên.
Xe tự lái là con chim hoàng yến thứ hai, nhưng vẫn còn ở thì tương lai xa so với dự đoán của Elon Musk. AI có thể thất bại thảm hại trong các tình huống không điển hình, như khi một người ngồi xe lăn băng qua đường. Việc lái xe khó khăn hơn nhiều so với các nhiệm vụ AI trước đây vì nó đòi hỏi phải đưa ra các quyết định liên quan đến tính mạng con gnười trong thời gian thực dựa trên cả thế giới vật lý không thể đoán trước và sự tương tác với người lái xe, người đi bộ và những người khác. Tất nhiên chúng ta nên triển khai những chiếc xe tự lái hạn chế khi chúng giúp giảm tỷ lệ tai nạn, nhưng chỉ khi đạt được khả năng lái xe ở đẳng cấp con người, thì nó mới trở thành dấu hiệu cảnh báo.
Bác sĩ AI là con chim hoàng yến thứ ba. AI đã có thể phân tích hình ảnh y tế với độ chính xác siêu phàm, nhưng đó chỉ là một lát cắt nhỏ công việc của bác sĩ con người. Một bác sĩ AI sẽ phải hỏi han bệnh nhân, xem xét các biến chứng, tham khảo ý kiến các bác sĩ khác, và nhiều thứ nữa. Đây là những nhiệm vụ đầy thách thức đòi hỏi phải hiểu con người, ngôn ngữ và y học. Một bác sĩ như vậy sẽ không phải đánh lừa bệnh nhân nghĩ rằng đó là con người – đó là lý do vì sao điều này khác với bài kiểm tra Turing. Nhưng nó sẽ phải ước tính khả năng của các bác sĩ con người trong một loạt các nhiệm vụ và hoàn cảnh không lường trước được.
Và mặc dù bản thân bài kiểm tra Turing không phải là một dấu hiệu cảnh báo tốt, nhưng các phiên bản giới hạn của bài kiểm tra này có thể đóng vai trò chim hoàng yến. Các AI hiện tại không thể hiểu được con người và động lực, không thể suy luận kích cỡ các vật thể. Chúng ta có thể thực hiện một phần bài kiểm tra Turing bằng cách trò chuyện với các công cụ AI như Alexa hoặc Google Home trong vài phút, chúng sẽ nhanh chóng thể hiện hiểu biết hạn chế về ngôn ngữ và thế giới. Nếu Alexa có thể thực hiện một cuộc đối thoại thực sự về một chủ đề phong phú, đó sẽ là con chim hoàng yến thứ tư.
AI hiện tại thành công trong các nhiệm vụ hẹp, chẳng hạn như chơi cờ vây hoặc phân loại hình ảnh MRI, nhưng thiếu tính tổng quát và tính linh hoạt của con người. Chúng kém xa khả năng linh hoạt của một đứa trẻ lên năm.
Danh sách các tín hiệu cảnh báo sớm ở trên chưa toàn diện nhưng nó cho thấy AI cách đẳng cấp con người bao xa. Nếu có một con chim hoàng yến ngã quỵ, chúng ta sẽ có thời gian để thiết kế các “công tắc” và xác định các đường ranh mà chúng ta không muốn AI vượt qua.
Như Andrew Ng, một trong những chuyên gia AI nổi tiếng nhất thế giới, đã nói, “Lo lắng về việc AI biến thành ác quỷ giống như lo lắng về việc quá đông dân trên sao Hỏa”. Cho đến khi chim hoàng yến bắt đầu chết, Andrew hoàn toàn chính xác.
P.Uyên
Xem thêm
