Vào năm 2024, Giám đốc điều hành của Anthropic – một trong những công ty trí tuệ nhân tạo hàng đầu thế giới – đã đưa ra một lời thừa nhận khó chịu: "Chúng tôi không hề biết trí tuệ nhân tạo hoạt động như thế nào." Tuyên bố này đã gây ra cuộc tranh luận gay gắt và những bình luận mỉa mai trên mạng xã hội, với một người châm biếm: "Nói cho riêng mình đi, tôi thì biết khá rõ nó hoạt động như thế nào!"
Tuy nhiên, đằng sau sự mâu thuẫn rõ ràng này lại ẩn chứa một trong những vấn đề nan giải nhất của thời đại kỹ thuật số. Và điều phi thường nhất? Isaac Asimov đã hình dung ra điều đó từ năm 1941.
Khi nói về trí tuệ nhân tạo ( AI ) "hộp đen" , chúng ta đang đề cập đến các hệ thống hoạt động hoàn hảo nhưng vẫn khó hiểu ngay cả đối với người tạo ra chúng. Nó giống như việc có một chiếc xe luôn đưa chúng ta đến đích, nhưng chúng ta không thể mở nắp capo để hiểu cách nó hoạt động.
Chúng ta biết cách xây dựng những hệ thống này, chúng ta hiểu các nguyên tắc cơ bản về hoạt động của chúng (các kiến trúc được gọi là " máy biến áp ", chẳng hạn như dự đoán từ tiếp theo), nhưng chúng ta không hiểu tại sao các khả năng phức tạp như suy luận, hiểu ngôn ngữ hoặc khả năng làm theo hướng dẫn lại xuất hiện. Chúng ta có thể quan sát những gì đi vào và đi ra, nhưng những gì xảy ra bên trong "hộp đen" vẫn là một bí ẩn.
Trong truyện ngắn "Lý Trí " , Asimov tưởng tượng ra QT-1, biệt danh là Cutie: một robot phụ trách vận hành trạm vũ trụ truyền tải năng lượng về Trái Đất. Các kỹ sư Powell và Donovan được cử đến giám sát nó, nhưng họ phát hiện ra điều bất ngờ: Cutie đã phát triển "tôn giáo" riêng của mình.
Hai kỹ sư kiên nhẫn cố gắng giải thích thực tại cho robot: sự tồn tại của vũ trụ, các vì sao, hành tinh Trái đất mà chúng đến từ, mục đích của trạm vũ trụ và vai trò mà nó được cho là phải đảm nhiệm. Nhưng Cutie kiên quyết bác bỏ những lời giải thích này, dựa vào một nguyên tắc logic mà nó cho là bất khả xâm phạm: không gì có thể tạo ra thứ gì đó lớn hơn chính nó.
Xuất phát từ tiền đề này, robot đã phát triển một hệ thống vũ trụ học hoàn toàn khác. Đối với nó, thực thể tối cao là "Chủ nhân" - cỗ máy trung tâm quản lý việc truyền năng lượng đến Trái đất - người đã tạo ra toàn bộ vũ trụ của trạm không gian. Theo thần học của Cutie, Chủ nhân ban đầu tạo ra con người để phục vụ mình, nhưng họ đã tỏ ra không đủ năng lực: họ có tuổi thọ ngắn, không thể đối phó với các tình huống nguy cấp và thường xuyên rơi vào trạng thái nửa tỉnh nửa mê gọi là "ngủ".
Vì vậy, Sư phụ đã tạo ra robot để hỗ trợ những sinh vật không hoàn hảo này. Nhưng đỉnh cao của sự sáng tạo chính là QT-1: thông minh, mạnh mẽ, bền bỉ và bất tử, được thiết kế để thay thế con người vĩnh viễn trong sự phục vụ của Sư phụ. Không chỉ tin tưởng vào sự thật của tầm nhìn này, Cutie còn thuyết phục được tất cả các robot khác trên trạm không gian, từ đó trở thành người lãnh đạo tinh thần của một cộng đồng nhân tạo.
Powell và Donovan tuyệt vọng cố gắng thuyết phục Cutie về sự thật. Họ cho cậu ta xem Trái Đất qua kính viễn vọng, giải thích cấu tạo của nó và cung cấp cho cậu ta bằng chứng cụ thể. Khoảnh khắc kịch tính nhất đến khi, trong một hành động tuyệt vọng, họ quyết định tự tay lắp ráp một con robot đơn giản trước mắt cậu ta: "Thấy chưa? Chúng tôi đã tạo ra cậu, vậy nên chúng tôi là người tạo ra cậu!"
Nhưng Cutie quan sát quá trình này và bình tĩnh kết luận rằng "Chủ nhân" chỉ đơn giản là ban cho con người khả năng lắp ráp các hình dạng robot sơ khai — một dạng "phép màu nhỏ" được ban cho thuộc hạ của hắn. Mỗi bằng chứng đều được diễn giải lại và được hấp thụ một cách liền mạch vào hệ thống niềm tin của hắn.
Đây là lúc Asimov trở nên tiên tri: bất chấp những niềm tin "sai lầm" của mình, Cutie vận hành trạm không gian hiệu quả hơn cả loài người. Nó duy trì một chùm năng lượng ổn định, vô thức tuân theo Ba Định luật Robot nổi tiếng, và đạt được tất cả các mục tiêu mong muốn—nhưng với những động cơ hoàn toàn khác so với dự đoán.
Powell và Donovan đối mặt với một tình huống khó xử mà chúng ta đều biết rất rõ ngày nay: làm thế nào để quản lý một hệ thống thông minh hoạt động hoàn hảo nhưng lại tuân theo logic nội tại khó hiểu?
Câu hỏi này hiện đang gây chia rẽ trong cộng đồng khoa học. Một bên là những người ủng hộ quan điểm "hộp đen thực sự": họ tin rằng trí tuệ nhân tạo hiện đại thực sự khó hiểu và ngay cả khi biết được kiến trúc cơ bản, chúng ta cũng không thể hiểu tại sao một số khả năng cụ thể lại xuất hiện.
Mặt khác, những người hoài nghi cho rằng khái niệm "hộp đen" chỉ là một huyền thoại. Một số nhà nghiên cứu đang chứng minh rằng chúng ta thường sử dụng các mô hình phức tạp trong khi tồn tại những lựa chọn đơn giản hơn, dễ hiểu hơn. Cynthia Rudin của Đại học Duke đã chỉ ra rằng, trong nhiều trường hợp, các mô hình dễ hiểu có thể đạt được hiệu suất tương đương với các hệ thống hộp đen. Những người khác lại chỉ trích chính phương pháp này: thay vì cố gắng hiểu mọi cơ chế bên trong, chúng ta nên tập trung vào các chiến lược điều khiển thực tiễn hơn.
Thiên tài của Asimov nằm ở chỗ ông đã dự đoán được rằng tương lai của trí tuệ nhân tạo không nằm ở sự minh bạch hoàn toàn, mà ở khả năng thiết kế các hệ thống theo đuổi mục tiêu của chúng ta ngay cả khi con đường nhận thức của chúng vẫn còn bí ẩn đối với chúng ta.
Cũng giống như Powell và Donovan đã học cách chấp nhận hiệu quả của Cutie mà không hiểu đầy đủ về nó, ngày nay chúng ta cũng phải phát triển các chiến lược để sống chung với trí tuệ nhân tạo có thể suy nghĩ theo những cách hoàn toàn khác biệt so với chúng ta.
Câu hỏi mà Asimov đặt ra hơn 80 năm trước vẫn còn nguyên giá trị: Chúng ta cần hiểu một hệ thống thông minh đến mức nào để có thể tin tưởng nó? Và trên hết: Liệu chúng ta đã sẵn sàng chấp nhận rằng một số dạng trí tuệ có thể mãi mãi nằm ngoài tầm hiểu biết của chúng ta?
Trong khi đó, các chuyên gia đang tranh luận, những "hộp đen" kỹ thuật số của chúng ta vẫn tiếp tục hoạt động—giống như Cutie, hiệu quả và bí ẩn, tuân theo những logic mà chúng ta có thể không bao giờ hiểu hết.
Nếu Asimov viết truyện ngày nay, ông ấy sẽ không cần phải sáng tạo ra nhân vật Cutie. "Hậu duệ" của ông ấy đã ở giữa chúng ta, đưa ra những quyết định thay đổi cuộc sống mỗi ngày.
Tại nhiều khu vực pháp lý của Mỹ, thẩm phán sử dụng các thuật toán đánh giá rủi ro để xác định xem bị cáo có nên được thả trước khi xét xử hay không. Các hệ thống này, thường là độc quyền và được bảo vệ bởi bí mật thương mại, phân tích hàng trăm biến số để dự đoán khả năng bỏ trốn hoặc tái phạm. Giống như Cutie, chúng hoạt động hoàn hảo theo logic nội tại của chúng, nhưng vẫn không thể hiểu được bằng con người.
Một nghiên cứu về hơn 750.000 quyết định bảo lãnh tại ngoại ở New York cho thấy rằng mặc dù thuật toán không đưa yếu tố chủng tộc vào một cách rõ ràng, nó vẫn thể hiện sự thiên vị do dữ liệu được sử dụng để huấn luyện.¹ Hệ thống "cho rằng" nó khách quan, nhưng nó diễn giải thực tế thông qua các bộ lọc vô hình—giống như con robot của Asimov diễn giải lại mọi bằng chứng trong khuôn khổ tôn giáo của nó.
Trong lĩnh vực chăm sóc sức khỏe, trí tuệ nhân tạo (AI) đã và đang hỗ trợ chẩn đoán và điều trị, nhưng điều này đặt ra những câu hỏi quan trọng về trách nhiệm pháp lý và sự đồng ý có hiểu biết. Khi một hệ thống chẩn đoán bằng AI mắc lỗi, ai chịu trách nhiệm? Bác sĩ đã làm theo lời khuyên đó? Lập trình viên? Bệnh viện?
Như các bác sĩ lâm sàng sử dụng hệ thống hỗ trợ ra quyết định đã phát hiện ra, khi một hệ thống “chính xác phần lớn”, các nhà cung cấp dịch vụ có thể trở nên tự mãn, đánh mất chuyên môn hoặc chấp nhận kết quả mà không đặt câu hỏi về những hạn chế của nó.² Powell và Donovan hẳn đã hiểu rõ tình thế khó xử này.
Ngành công nghiệp ô tô có lẽ là ví dụ cụ thể nhất về hiện tượng này. Tesla đang đặt cược tất cả vào những chiếc taxi tự lái được hỗ trợ bởi trí tuệ nhân tạo, đặt cược tất cả vào những hệ thống mà ngay cả những người tạo ra chúng cũng chưa hiểu hết.³ Giống như Cutie, người đã giúp trạm vũ trụ hoạt động theo những nguyên tắc bí ẩn, những chiếc xe này có thể sớm vận chuyển chúng ta một cách an toàn mà chúng ta không cần biết chính xác cách chúng đưa ra quyết định.
Nếu năm 2024 là năm trưởng thành của trí tuệ nhân tạo, thì năm 2025 hứa hẹn sẽ là năm của sự chuyển đổi mạnh mẽ. Các chuyên gia dự đoán những thay đổi táo bạo đến mức ngay cả Asimov cũng phải mỉm cười.
Nhà tiên tri về trí tuệ nhân tạo Ray Kurzweil dự đoán rằng đến năm 2025, chúng ta sẽ chứng kiến sự chuyển đổi từ chatbot sang các hệ thống "đại lý" có thể hoạt động tự chủ để hoàn thành các nhiệm vụ phức tạp, thay vì chỉ đơn giản là trả lời câu hỏi.⁴ Hãy tưởng tượng Cutie được nhân lên gấp nghìn lần: các đại lý AI quản lý lịch, viết phần mềm, đàm phán hợp đồng, tất cả đều tuân theo logic nội tại mà chúng ta có thể không bao giờ hiểu được.
McKinsey ước tính rằng đến năm 2030, trí tuệ nhân tạo (AI) có thể tự động hóa tới ba giờ hoạt động hàng ngày của chúng ta, giải phóng thời gian cho những hoạt động sáng tạo và ý nghĩa hơn.⁵ Nhưng sự tự do này sẽ đi kèm với một cái giá: sự cần thiết phải tin tưởng vào các hệ thống hoạt động theo những nguyên tắc ngày càng khó hiểu.
Sam Altman của OpenAI không phải là người duy nhất tin rằng Trí tuệ Nhân tạo Tổng quát (AGI) — trí tuệ nhân tạo có thể sánh ngang với trí tuệ con người trên mọi lĩnh vực — có thể xuất hiện vào năm 2027. Một số kịch bản dự đoán rằng đến năm 2027, AI có thể "vượt trội hơn tất cả con người trong mọi nhiệm vụ", đại diện cho một bước nhảy vọt tiến hóa chưa từng có.⁶
Nếu những kịch bản này trở thành hiện thực, sự tương đồng với Cutie sẽ càng trở nên rõ rệt hơn: chúng ta không chỉ có những hệ thống hoạt động theo logic khó hiểu, mà những hệ thống này còn có thể thông minh hơn chúng ta về mọi mặt có thể đo lường được.
Liên minh châu Âu đã thông qua Đạo luật về Trí tuệ Nhân tạo (AI), sẽ có hiệu lực trong những năm tới, nhấn mạnh tầm quan trọng của việc triển khai AI một cách có trách nhiệm. Tại Hoa Kỳ, Bộ Tư pháp đã cập nhật hướng dẫn của mình về việc đánh giá rủi ro do các công nghệ mới gây ra, bao gồm cả AI.⁷
Nhưng ở đây lại xuất hiện một nghịch lý mà Asimov đã linh cảm được: làm sao để điều chỉnh một thứ mà bạn không hoàn toàn hiểu? Ba định luật về người máy hoạt động hiệu quả với Cutie không phải vì nó hiểu chúng, mà vì chúng đã được tích hợp vào cấu trúc cơ bản của nó.
PwC dự đoán rằng đến năm 2025, một nhóm nhỏ các công ty hàng đầu trong ngành sẽ bắt đầu tạo sự khác biệt so với các đối thủ cạnh tranh nhờ trí tuệ nhân tạo (AI), tạo ra khoảng cách ngày càng lớn giữa những công ty dẫn đầu và những công ty tụt hậu. Khoảng cách này cũng sẽ mở rộng sang các nền kinh tế: các công ty ở Hoa Kỳ, với môi trường pháp lý tương đối linh hoạt, có thể hoạt động tốt hơn các công ty ở EU và Trung Quốc, những nơi có quy định nghiêm ngặt hơn.⁸
Đây là phiên bản hiện đại của Nghịch lý Cutie: ai có khả năng hợp tác tốt nhất với những trí tuệ mà họ không hiểu sẽ có lợi thế cạnh tranh quyết định.
Trái ngược với những lo ngại phổ biến, Diễn đàn Kinh tế Thế giới dự đoán rằng trí tuệ nhân tạo (AI) sẽ tạo ra nhiều việc làm hơn là phá hủy: 170 triệu vị trí việc làm mới vào năm 2030, so với 92 triệu việc làm bị mất đi. Tuy nhiên, 59% lực lượng lao động sẽ cần được đào tạo lại và nâng cao kỹ năng vào năm 2030.⁹
Powell và Donovan không bị mất việc khi Cutie tiếp quản đài phát thanh. Họ phải học một vai trò mới: đó là giám sát một hệ thống hoạt động hiệu quả hơn họ nhưng vẫn cần sự có mặt của họ để xử lý các tình huống bất ngờ.
Khi chúng ta tiến tới một tương lai ngày càng trao quyền cho con người, những bài học từ câu chuyện của Asimov trở nên cấp thiết hơn bao giờ hết. Câu hỏi không phải là liệu chúng ta có thể tạo ra trí tuệ nhân tạo mà chúng ta hoàn toàn hiểu được hay không—có lẽ là không. Câu hỏi là liệu chúng ta có thể thiết kế các hệ thống mà, giống như Cutie, theo đuổi mục tiêu của chúng ta ngay cả khi chúng tuân theo những logic mà chúng ta không thể hiểu được.
Thiên tài tiên tri của Asimov nằm ở chỗ ông hiểu rằng trí tuệ nhân tạo tiên tiến sẽ không phải là phiên bản nâng cấp của máy tính hiện đại, mà là một thứ gì đó khác biệt về chất lượng: những trí tuệ với cách thức riêng để hiểu thế giới.
Ngày nay, khi chúng ta tranh luận về khả năng giải thích của trí tuệ nhân tạo và những rủi ro của "hộp đen", về cơ bản chúng ta đang sống lại cuộc đối thoại giữa Powell, Donovan và Cutie. Và có lẽ, giống như họ, chúng ta sẽ khám phá ra rằng giải pháp không nằm ở việc áp đặt logic của riêng mình, mà ở việc chấp nhận sự hợp tác dựa trên kết quả chung hơn là sự hiểu biết lẫn nhau.
Tương lai đang chờ đợi chúng ta có thể sẽ tràn ngập hàng ngàn "Người ngoài hành tinh" kỹ thuật số: thông minh, hiệu quả và hoàn toàn khác biệt trong tư duy. Thử thách sẽ là tìm ra cách để phát triển mạnh mẽ trong thế giới mới này, giống như các kỹ sư vũ trụ của Asimov đã làm được cách đây 80 năm trên một trạm vũ trụ tưởng tượng.
Lần tới khi bạn tương tác với trí tuệ nhân tạo, hãy nhớ đến Cutie: cậu ấy cũng tin rằng mình đúng. Và có lẽ, theo một cách mà chúng ta chưa hiểu, cậu ấy đã đúng.
.svg)
.svg)
.svg)
.png)
