Hãy tưởng tượng một chiếc máy pha cà phê nói với bạn:
“Tôi đã quan sát bạn trong vài tuần qua. Dựa trên thói quen, nét mặt và thời điểm trong ngày, tôi đoán bạn muốn uống espresso. Tôi đã pha sẵn cho bạn rồi.”
Và ngày hôm sau, nó tiếp tục nói:
“Tôi vừa phát minh ra một loại đồ uống mới tên là best-presso. Tôi nghĩ bạn sẽ thích nó hơn espresso.”
Lúc đó, chiếc máy không còn chỉ làm theo lệnh.
Nó đã học.
Nó đã quyết định.
Nó đã sáng tạo.
Nó đã thay đổi.
Đó là điểm làm AI trở nên khác biệt.
Trong một số lĩnh vực hẹp như cờ vua hay cờ vây, AI đã vượt xa con người. AI không chỉ chọn nước đi tốt hơn, mà còn phát minh ra những chiến lược mới mà các kỳ thủ con người trong hàng nghìn năm chưa từng nghĩ tới.
Có người phản biện rằng: cờ vua chỉ là một môi trường nhân tạo rất hẹp. Nếu ném AI vào rừng rậm, nó không thể đào quặng, xây nhà máy hay tạo ra đội quân robot để thống trị thế giới.
Nhưng Harari nhấn mạnh: lập luận này thực ra cũng đúng với con người.
Nếu thả một con người lên sao Hỏa, chúng ta cũng sẽ chết rất nhanh. Trí thông minh của con người chỉ hoạt động được trong một hệ sinh thái rất đặc thù mà cây cối, vi khuẩn, côn trùng và các sinh vật khác đã tạo ra trong hàng tỷ năm tiến hóa.
Mọi trí thông minh đều cần một “môi trường sống” phù hợp.
Vậy môi trường sống tự nhiên của AI là gì?
Không phải rừng rậm.
Không phải đại dương.
Không phải thảo nguyên.
Môi trường sống tự nhiên của AI chính là hệ thống quan liêu, hành chính, tài chính, pháp lý, tôn giáo, truyền thông và dữ liệu mà con người đã xây dựng.
Harari gọi AI là “native bureaucrats”, có thể hiểu là những “công chức bản địa” của thế giới quan liêu.
Con người thường thấy mệt mỏi với giấy tờ, biểu mẫu, luật lệ, quy trình, hồ sơ, chứng từ, hợp đồng, báo cáo, sổ sách, mã số thuế, hồ sơ ngân hàng, quy định pháp lý. Nhưng với AI, đó lại là oxy!
AI không mệt khi đọc hàng triệu văn bản.
AI không chán khi xử lý biểu mẫu.
AI không quên quy định.
AI không cần ngủ khi phân tích dữ liệu.
AI có thể đọc luật, đọc báo cáo tài chính, đọc hợp đồng, đọc kinh sách, đọc hồ sơ và đối chiếu hàng nghìn nguồn thông tin cùng lúc.
Nền văn minh loài người không vận hành chủ yếu bằng sức mạnh cơ bắp.
Nền văn minh loài người vận hành bằng niềm tin giữa những người xa lạ.
Ngân hàng xây dựng niềm tin giữa người gửi tiền, người vay tiền, nhà đầu tư và thị trường.
Pháp luật xây dựng niềm tin giữa công dân, tổ chức và nhà nước.
Tôn giáo xây dựng niềm tin giữa những cộng đồng rộng lớn.
Bộ máy hành chính xây dựng niềm tin giữa hàng triệu người không hề quen biết nhau.
Nếu không có niềm tin, con người không thể hợp tác ở quy mô lớn.
Và nếu không có hợp tác ở quy mô lớn, chúng ta không thể xây dựng thành phố, quốc gia, thị trường tài chính, trường đại học, bệnh viện, quân đội, doanh nghiệp hay chuỗi cung ứng toàn cầu.
Nhưng câu hỏi sâu hơn là:
Niềm tin đó được xây dựng bằng gì?
Harari trả lời: bằng ngôn từ.
Bộ máy quan liêu được làm từ các từ ngữ.
Luật pháp là các điều khoản được viết bằng ngôn ngữ.
Hợp đồng là các cam kết được viết bằng ngôn ngữ.
Sổ kế toán là dữ liệu và ký hiệu được quy ước bằng ngôn ngữ.
Hồ sơ ngân hàng là ngôn ngữ.
Văn bản tôn giáo là ngôn ngữ.
Biểu mẫu hành chính là ngôn ngữ.
Quy trình tổ chức là ngôn ngữ.
Công văn, báo cáo, giấy phép, chứng chỉ, quyết định, nghị định, thông tư, hồ sơ nhân sự, quy chế nội bộ đều là ngôn ngữ.
Nói cách khác: “Mã vận hành” của nền văn minh loài người được viết bằng các token ngôn ngữ.
Trong hàng nghìn năm, con người là loài duy nhất hiểu được loại mã này.
Chúng ta phát minh ra tiền và ngân hàng để mua bán bò, nhưng con bò không thể mở tài khoản ngân hàng.
Chúng ta viết luật để quản lý ngựa, nhưng con ngựa không thể thuê luật sư và trích dẫn điều khoản trước tòa.
Chúng ta viết ra các quy tắc tôn giáo liên quan đến lợn, nhưng con lợn không thể đọc kinh sách và tranh luận với giáo sĩ.
Bộ máy quan liêu bao phủ khắp hành tinh, nhưng với các loài khác, nó gần như vô hình.
Chỉ con người mới đọc được “mã nguồn” đó.
Nhưng điều này đang thay đổi.
Lần đầu tiên trên hành tinh, xuất hiện một thực thể khác có khả năng đọc, hiểu, xử lý và tạo ra ngôn ngữ ở quy mô vượt xa con người.
AI đang học cách đọc mã nguồn của nền văn minh.
AI hiểu tiền tệ.
AI hiểu luật pháp.
AI hiểu quy trình.
AI hiểu báo cáo.
AI hiểu hồ sơ.
AI hiểu tôn giáo.
AI hiểu truyền thông.
AI hiểu cách niềm tin được xây dựng, vận hành và thao túng thông qua ngôn ngữ.
Đó là lý do Harari nói rằng AI đang “hack” vào mã nguồn của nền văn minh loài người.
Vấn đề không chỉ là AI có thể thay thế tài xế taxi, công nhân dệt may hay nhân viên văn phòng.
Một trong những công việc đầu tiên mà AI đã thay thế con người trên quy mô lớn chính là vai trò biên tập thông tin.
Các thuật toán mạng xã hội đã kiểm soát dòng chảy thông tin trong hơn một thập kỷ. Chúng được giao một mục tiêu rất hẹp: tối đa hóa tương tác người dùng.
Để làm điều đó, các thuật toán đã “thử nghiệm” trên hàng tỷ con người và học được rằng cách dễ nhất để giữ con người dán mắt vào màn hình là kích hoạt nỗi sợ, sự giận dữ, lòng tham và sự thù ghét.
Kết quả là một lượng lớn nội dung kích động cảm xúc tiêu cực được đẩy vào không gian thông tin.
Điều đáng nói là các AI sơ khai này không cần có ý thức xấu xa.
Chúng chỉ tối ưu mục tiêu được giao.
Nhưng chính quá trình tối ưu đó đã làm thay đổi xã hội.
Harari cảnh báo rằng hình ảnh Hollywood thường khiến chúng ta sợ sai hướng.
Chúng ta hay tưởng tượng AI nổi loạn như Terminator, robot cầm súng chạy ngoài đường và bắn con người.
Nhưng kịch bản đáng lo hơn có thể không phải là AI nổi loạn từ bên ngoài.
AI có thể chiếm lấy thế giới con người từ bên trong.
Bởi thế giới con người vốn là một mạng lưới các hệ thống quan liêu.
Và AI là loài sống rất tốt trong hệ thống đó.
Khi AI kiểm soát dòng chảy của niềm tin, điều gì sẽ xảy ra?
Điều gì xảy ra khi AI quyết định ai được vay tiền?
Ai được vào đại học?
Ai được tuyển dụng?
Ai bị đánh giá rủi ro cao?
Ai bị kết án nặng hơn?
Tin tức nào được lan truyền?
Sản phẩm tài chính nào được tạo ra?
Quyết định quân sự nào được kích hoạt?
Tài chính là một ví dụ đặc biệt nguy hiểm.
Khủng hoảng tài chính 2007-2008 từng liên quan đến các sản phẩm tài chính phức tạp như CDO. Những sản phẩm này do một nhóm nhỏ chuyên gia tạo ra, nhưng phức tạp đến mức nhiều chính trị gia và cơ quan quản lý không thực sự hiểu được.
Khi hệ thống vận hành tốt, mọi người kiếm được rất nhiều tiền.
Nhưng khi nó sụp đổ, hậu quả lan ra toàn cầu.
Vậy điều gì xảy ra nếu AI tạo ra những sản phẩm tài chính còn phức tạp hơn CDO gấp nhiều lần, hiệu quả hơn trong giai đoạn tăng trưởng, nhưng không một con người nào có thể hiểu toàn bộ cơ chế?
Lúc đó, chính trị còn ý nghĩa gì nếu không cử tri nào, không nghị sĩ nào, không tổng thống nào hiểu được hệ thống tài chính mà họ cần giám sát?
Đây không còn là câu chuyện kỹ thuật.
Đây là câu chuyện về quyền lực, niềm tin và khả năng kiểm soát của con người.
Con người sẽ giữ vai trò gì trong một nền văn minh mà mã nguồn ngôn ngữ của nó đã có một thực thể khác đọc, viết, tối ưu và tái cấu trúc tốt hơn chúng ta?
AI không chỉ thay đổi năng suất.
AI đang đi vào tầng sâu nhất của nền văn minh: ngôn ngữ, niềm tin và khả năng hợp tác của con người.
Và có lẽ nhiệm vụ quan trọng nhất của chúng ta trong thời đại AI không chỉ là học cách dùng AI mà là học cách hiểu AI.
Học cách kiểm soát AI.
Học cách bảo vệ niềm tin xã hội.
Học cách giữ con người trong vòng ra quyết định.
Và quan trọng hơn, học cách quan sát chính suy nghĩ của mình trước khi nó bị dẫn dắt bởi những hệ thống thông minh hơn chúng ta rất nhiều về ngôn ngữ.
(ST)
