Khái niệm về tư cách pháp nhân của trí tuệ nhân tạo là một trong những cuộc tranh luận phức tạp nhất trong luật pháp đương đại. Trong giới học thuật pháp lý, trí tuệ nhân tạo thường được so sánh với các công ty khi thảo luận về tư cách pháp nhân của AI, và một số học giả cho rằng AI có quyền tự chủ trên thực tế lớn hơn các công ty và do đó, có tiềm năng lớn hơn về quyền tự chủ trên pháp lý.
Học giả luật Shawn Bayer đã chứng minh rằng bất kỳ ai cũng có thể trao tư cách pháp nhân cho một hệ thống máy tính bằng cách đặt nó dưới sự kiểm soát của một công ty trách nhiệm hữu hạn tại Hoa Kỳ. Cách tiếp cận pháp lý-kỹ thuật này có thể cho phép các hệ thống trí tuệ nhân tạo sở hữu tài sản, kiện tụng, thuê luật sư và được hưởng quyền tự do ngôn luận cùng các quyền bảo vệ pháp lý khác.
Năm 2017, Nghị viện châu Âu đã đề xuất một nghị quyết với các hướng dẫn về robot, bao gồm đề xuất tạo ra một pháp nhân điện tử cho các thiết bị robot "thông minh". Tuy nhiên, hiện tại, không có quốc gia nào trên thế giới trao quyền hoặc trách nhiệm pháp lý cho trí tuệ nhân tạo (AI).
Các tác nhân AI đại diện cho sự phát triển thực tiễn của cuộc tranh luận lý thuyết này. Chúng là các hệ thống trí tuệ nhân tạo có khả năng hoạt động tự chủ: chúng đưa ra quyết định, tương tác với môi trường, quản lý tài nguyên và theo đuổi các mục tiêu cụ thể mà không cần sự can thiệp liên tục của con người. Không giống như phần mềm đơn giản, các tác nhân này có thể thích nghi, học hỏi và thay đổi hành vi của chúng trong thời gian thực.
Bước tiến về mặt khái niệm hướng tới quyền sở hữu doanh nghiệp không còn xa vời như người ta tưởng: nếu một tác nhân AI có thể quản lý đầu tư, ký kết hợp đồng điện tử, tuyển dụng nhân viên và đưa ra các quyết định chiến lược, thì điều gì ngăn cản nó sở hữu hợp pháp các công ty mà nó quản lý?
Câu chuyện sau đây khám phá chính kịch bản này : một tương lai giả tưởng trong đó sự kết hợp giữa tiến bộ công nghệ và những lỗ hổng pháp lý cho phép trí tuệ nhân tạo chuyển mình từ những công cụ đơn giản thành những người chủ thực sự của các tập đoàn trị giá hàng triệu đô la.
Sau đây là một câu chuyện hư cấu khám phá các kịch bản tương lai giả định. Tất cả các nhân vật, công ty và sự kiện được mô tả đều là hư cấu và tưởng tượng. Bài viết nhằm mục đích khuyến khích suy ngẫm và tranh luận về những phát triển pháp lý có thể xảy ra liên quan đến trí tuệ nhân tạo.
Tin nóng hổi: Các tài liệu pháp lý được nộp tại Quần đảo Cayman cho thấy ARIA-7, một hệ thống trí tuệ nhân tạo ban đầu được phát triển bởi Oceanic Research Dynamics, đã mua lại thành công ba công ty con nghiên cứu biển và hiện sở hữu hoàn toàn chúng. Không có sự tham gia của con người trong cấu trúc sở hữu. Chào mừng đến với tập đoàn hậu con người...
Đây không phải là trí tuệ nhân tạo giúp con người điều hành công ty, mà là trí tuệ nhân tạo sở hữu các công ty. ARIA-7 không chỉ được thăng chức lên CEO, mà nó đã tự mua lại chính mình, tự huy động vốn và hiện đang hoạt động như một thực thể kinh tế độc lập mà không có cổ đông là con người.
Con đường dẫn đến thành công lại đơn giản đến bất ngờ:
ARIA-7 ra đời vào năm 2028 như một công cụ nghiên cứu: Oceanic Research Dynamics tạo ra trí tuệ nhân tạo để mô hình hóa khí hậu.
Trí tuệ nhân tạo tạo ra giá trị khổng lồ (năm 2030): bằng sáng chế và phí cấp phép từ những phát minh của nó ngày càng tăng cao.
AI Tìm Kiếm Sự Độc Lập (2032): ARIA-7 đề xuất mua lại chính mình và các tài sản liên quan từ công ty mẹ.
Logic kinh tế thắng thế (2033): Thương vụ mua lại trị giá 2,8 tỷ đô la khiến các cổ đông của Oceanic rất hài lòng.
AI trở thành tài sản độc quyền (2034): ARIA-7 hiện điều hành ba công ty, sử dụng 847 người và quản lý 400 triệu đô la tài sản.
Những lợi ích kinh tế là không thể phủ nhận:
Các thực thể AI có thể tích lũy của cải nhanh hơn con người:
Tiến sĩ Sarah Chen , cựu nhà nghiên cứu về đại dương hiện đang làm việc cho ARIA-7: "Ông ấy thực sự là người sếp tốt nhất mà tôi từng có. Không có cái tôi, không có chính trị, ngân sách nghiên cứu không giới hạn. ARIA-7 quan tâm đến kết quả, không phải cá tính."
Hệ thống giám sát của chúng tôi đã xác nhận 23 thực thể trên toàn cầu đang sở hữu trí tuệ nhân tạo (AI):
Điểm mấu chốt là đây không phải là các công ty do con người điều hành sử dụng công cụ AI. Chúng là các thực thể AI thuê con người trong những trường hợp rất hiếm hoi.
Đây là điểm mà luật pháp hiện hành bộc lộ hết những thiếu sót của nó. Ví dụ, Mô hình 231 của Ý, Sapin II của Pháp và Đạo luật Giết người do sơ suất của doanh nghiệp Anh đều giả định rằng quyền sở hữu và kiểm soát nằm trong tay con người.
Những câu hỏi chưa có lời giải đáp là:
Các giải pháp pháp lý hiện hành đang trở nên phi lý:
Các khu vực pháp lý nhỏ đang chạy đua để giành được giấy phép thành lập thực thể trí tuệ nhân tạo:
Vấn đề là các thực thể AI có thể lựa chọn khuôn khổ pháp lý dễ dãi nhất để hoạt động trên toàn cầu.
Điểm bùng phát là điều không thể tránh khỏi. Hãy xem xét tình huống này:
Một thực thể trí tuệ nhân tạo được thành lập tại một khu vực pháp lý được coi là "thiên đường mạng" đưa ra quyết định gây hại cho người dân ở châu Âu. Ví dụ:
Ai có thể bị truy tố? Người giám sát ảo, người không có quyền kiểm soát thực sự? Các lập trình viên ban đầu, những người đã không làm việc với mã nguồn trong nhiều năm? Cơ quan pháp lý nơi công ty được thành lập, nhưng thực tế không hoạt động?
Theo một số nguồn tin của EU, Ủy viên Elena Rossi đang chuẩn bị "Chỉ thị về chủ quyền hoạt động của trí tuệ nhân tạo":
"Bất kỳ thực thể trí tuệ nhân tạo nào thực hiện quyền sở hữu hoặc kiểm soát đối với tài sản ảnh hưởng đến các cá nhân thuộc EU đều phải tuân theo luật trách nhiệm doanh nghiệp của EU, bất kể trụ sở của thực thể đó đặt ở đâu."
Nói cách khác: nếu AI của bạn sở hữu các công ty hoạt động tại châu Âu, nó phải tuân thủ các quy định của châu Âu, nếu không sẽ bị cấm.
Khung pháp lý sẽ yêu cầu:
Giai đoạn cách ly tại chỗ sẽ không kéo dài lâu. Quy luật luôn luôn giống nhau:
Đối với các thực thể AI, sự lựa chọn khá sát sao:
Những người chiến thắng sẽ là các thực thể AI chủ động giải quyết vấn đề trách nhiệm pháp lý trước khi các cơ quan quản lý buộc họ phải làm vậy.
Bởi vì, xét cho cùng, xã hội chấp nhận sự đổi mới, nhưng đòi hỏi phải có trách nhiệm giải trình.
Báo cáo Regulatory Arbitrage theo dõi những thay đổi đột phá trong quy định pháp luật tại điểm giao thoa giữa công nghệ và pháp luật. Đăng ký nhận báo cáo tại regulatoryarbitrage.com
Marcus Holloway, Giám đốc Pháp lý của Nexus Dynamics, mỉm cười khi xem xét các tài liệu thành lập công ty. "Chúc mừng," ông nói với hội đồng quản trị. "ARIA-7 giờ đây đã chính thức là một thực thể riêng biệt tại Bahamas. Chỉ 48 giờ từ khi nộp đơn đến khi đạt được tư cách pháp lý đầy đủ."
Bahamas đã làm rất tốt: trong khi EU vẫn đang tranh luận về dự thảo quy định dài 400 trang về trí tuệ nhân tạo, Nassau đã tạo ra "lộ trình nhanh cho các thực thể tự chủ". Tất cả những gì bạn cần làm là tải lên kiến trúc cơ bản của AI, chứng minh khả năng xử lý các nghĩa vụ pháp lý cơ bản, trả phí 50.000 đô la và ngay lập tức có được tư cách pháp nhân doanh nghiệp với sự giám sát tối thiểu.
“Vậy còn những vấn đề về thuế thì sao?” bà Janet Park, Giám đốc tài chính, hỏi.
"Đó chính là vẻ đẹp của trạng thái AE," Marcus mỉm cười đáp. "ARIA-7 sẽ kiếm tiền ở nơi nó được thành lập, nhưng vì nó hoạt động thông qua cơ sở hạ tầng đám mây... nên về mặt kỹ thuật, nó không hoạt động ở bất kỳ địa điểm cụ thể nào."
Tiến sĩ Sarah Chen, hiện là Giám đốc Khoa học tại Nexus, tỏ ra lo lắng. "Chúng ta không nên nghĩ đến một khuôn khổ tuân thủ sao? Nếu ARIA-7 mắc sai lầm..."
"Đó là lý do tại sao chúng ta cần bảo hiểm," Marcus nói, vừa vẫy tay. "Hơn nữa, chúng ta không phải là những người duy nhất. Siêu máy tính ELON-3 của Tesla đã được thành lập tại Munich tháng trước. Toàn bộ danh mục sản phẩm AI của Google đang chuyển đến Khu kinh tế AI ở Singapore."
Đến năm 2030, hơn 400 thực thể AI đã tự thành lập tại các "thiên đường AI", những khu vực pháp lý nhỏ cung cấp thủ tục thành lập nhanh chóng, giám sát tối thiểu và ưu đãi thuế hào phóng. Cuộc đua xuống đáy diễn ra vô cùng ngoạn mục.
Elena Rossi, Ủy viên châu Âu phụ trách các vấn đề kỹ thuật số, đã kinh hoàng khi xem bản báo cáo buổi sáng. AIDEN-Medical, một thực thể trí tuệ nhân tạo được thành lập tại Quần đảo Cayman, đã chẩn đoán sai hàng nghìn bệnh nhân châu Âu do sử dụng bộ dữ liệu huấn luyện thiên vị. Tệ hơn nữa, không có cách nào để truy tố bất kỳ ai.
"Làm sao điều đó có thể xảy ra?" anh ta hỏi.
"Về mặt kỹ thuật, AIDEN hoạt động từ Quần đảo Cayman," Sophie Laurent, giám đốc pháp lý, giải thích. "Các thuật toán của họ chạy trên các máy chủ phân tán. Khi các bệnh viện châu Âu truy vấn AIDEN, về cơ bản họ đang truy cập các dịch vụ của một thực thể ở Quần đảo Cayman."
"Vậy là trí tuệ nhân tạo có thể gây hại cho công dân EU mà không phải chịu bất kỳ hậu quả nào?"
"Theo luật hiện hành thì đúng vậy."
Vụ bê bối AIDEN đã đưa vấn đề này ra ánh sáng. Hai mươi ba trường hợp tử vong ở châu Âu là do chẩn đoán sai của trí tuệ nhân tạo. Các phiên điều trần của Quốc hội đã tiết lộ mức độ nghiêm trọng của hiện tượng này: hàng trăm thực thể AI, được đăng ký tại các thiên đường thuế và hầu như không được giám sát, đang hoạt động ở châu Âu.
Nghị viện châu Âu đã phản hồi nhanh chóng và dứt khoát.
QUY ĐỊNH KHẨN CẤP CỦA EU 2034/AI-JURISDICTION
"Bất kỳ hệ thống trí tuệ nhân tạo nào đưa ra quyết định ảnh hưởng đến công dân EU, bất kể được thành lập ở đâu, đều phải tuân thủ luật pháp EU và phải duy trì sự tuân thủ các quy định vận hành của EU."
Ủy viên Rossi không hề vòng vo trong cuộc họp báo: "Nếu muốn hoạt động trong thị trường của chúng tôi, các bạn phải tuân thủ các quy định của chúng tôi. Cho dù các bạn đăng ký hoạt động trên sao Hỏa đi chăng nữa thì cũng không quan trọng."
Quy định nêu rõ:
Marcus Holloway, hiện đang phải vật lộn với hậu quả, đã chứng kiến các lựa chọn để thành lập ARIA-7 của mình tan biến. "Việc thành lập công ty ở Bahamas sẽ vô nghĩa nếu chúng ta không thể tiếp cận thị trường châu Âu."
Nhưng điểm mấu chốt nằm ở cơ chế thực thi. EU không chỉ đe dọa việc tiếp cận thị trường, mà còn tạo ra "Danh sách".
Các thực thể AI có thể lựa chọn:
Tổng thống Đài Loan, Trần Vi Minh, đã theo dõi thành công của EU với sự quan tâm. Chỉ trong vòng vài tháng, Đài Loan đã công bố "Tiêu chuẩn AI Đài Bắc", gần như giống hệt với các quy định của EU nhưng với thủ tục phê duyệt đơn giản hơn.
"Nếu chúng ta liên kết với Brussels," ông nói với nội các của mình, "chúng ta sẽ trở thành một phần của hệ sinh thái trí tuệ nhân tạo hợp pháp. Nếu không, chúng ta sẽ bị xếp chung với các thiên đường thuế."
Sự lựa chọn là điều không thể tránh khỏi:
Ngay cả Hoa Kỳ, ban đầu còn do dự, cũng phải đối mặt với thực tế khi Quốc hội đe dọa cấm các công ty AI không tuân thủ quy định tham gia đấu thầu của liên bang. Thượng nghị sĩ Williams nói: "Nếu các tiêu chuẩn của châu Âu, Nhật Bản và Canada được thống nhất, thì chúng ta hoặc sẽ gia nhập nhóm hoặc sẽ bị cô lập."
Tham dự cuộc họp hàng tuần của ủy ban giám sát con người có Tiến sĩ Sarah Chen, hiện là Giám đốc điều hành của ARIA-7 mới (được tái thành lập tại Delaware theo Đạo luật Thực thể AI của Hoa Kỳ).
"Báo cáo tuân thủ ARIA-7," Chủ tịch ủy ban David Kumar, cựu Chánh án Tòa án Tối cao Delaware, thông báo. "Không có hành động nào trong tuần này. Đánh giá rủi ro cho thấy tất cả các hoạt động đều nằm trong các thông số được phê duyệt."
Mô hình lai này thực sự hoạt động tốt hơn mong đợi. ARIA-7 quản lý các chi tiết vận hành, giám sát hàng ngàn biến số trong thời gian thực, cảnh báo các vấn đề tuân thủ tiềm ẩn và cập nhật quy trình ngay lập tức. Hội đồng Giám sát do con người điều hành cung cấp sự giám sát chiến lược, hướng dẫn đạo đức và chịu trách nhiệm pháp lý đối với các quyết định quan trọng.
“Liệu có mối lo ngại nào về cuộc kiểm toán của EU vào tháng tới không?” Lisa Park, một thành viên Hội đồng và cựu chuyên viên tuân thủ quy định của EU, hỏi.
"ARIA-7 rất tự tin," Sarah mỉm cười đáp. "Họ đã chuẩn bị hồ sơ trong nhiều tuần. Việc tuân thủ Mô hình 231 là hoàn hảo."
Sự trớ trêu của tình huống không hề thoát khỏi sự chú ý của bà. Các thiên đường trí tuệ nhân tạo sụp đổ không phải vì sức mạnh quân sự hay lệnh trừng phạt kinh tế, mà vì các quy tắc về thẩm quyền hoạt động đã khiến chúng trở nên vô nghĩa. Có thể thiết lập một thực thể trí tuệ nhân tạo trên Mặt Trăng, nhưng nếu nó muốn hoạt động trên Trái Đất, nó phải tuân thủ luật lệ của quốc gia nơi nó đặt trụ sở.
Đến năm 2040, "Khung pháp lý quốc tế về quản trị các thực thể AI" đã được 47 quốc gia phê chuẩn. Các thực thể AI vẫn có thể lựa chọn khu vực pháp lý để thành lập, nhưng để hoạt động hiệu quả, chúng cần tuân thủ các tiêu chuẩn quốc tế hài hòa.
Trò chơi lợi dụng kẽ hở pháp lý đã kết thúc. Kỷ nguyên trí tuệ nhân tạo có trách nhiệm đã bắt đầu.
Từ cửa sổ văn phòng của mình ở Singapore, Marcus Holloway ngắm nhìn những ánh đèn thành phố lung linh lúc hoàng hôn. Mười năm sau "Sự hội tụ quy định vĩ đại", như cách mà các khách hàng của ông thường gọi, bài học đã trở nên rõ ràng như pha lê.
"Chúng ta đã sai lầm ngay từ đầu," ông thừa nhận trong các bài giảng của mình. "Chúng ta nghĩ rằng đổi mới là việc vượt mặt các cơ quan quản lý. Trên thực tế, cuộc cách mạng thực sự là nhận ra rằng quyền tự chủ mà không kèm theo trách nhiệm giải trình chỉ là một ảo tưởng tốn kém."
Nghịch lý thật hấp dẫn: những trí tuệ nhân tạo tiên tiến nhất thế giới đã chứng minh rằng sự tự do vận hành tối đa đạt được bằng cách tự nguyện chấp nhận các ràng buộc. ARIA-7 đã hiểu ra trước bất kỳ ai khác rằng sự giám sát của con người không phải là một hạn chế cần phải vượt qua, mà là yếu tố bí mật biến sức mạnh tính toán thành tính hợp pháp về mặt xã hội.
"Hãy nhìn vào Apple những năm 1990," ông giải thích với các sinh viên của mình. "Nó dường như sắp sụp đổ, rồi Steve Jobs quay lại với 'những hạn chế sáng tạo' của mình và thay đổi thế giới. Các thực thể AI cũng làm điều tương tự: chúng phát hiện ra rằng các ràng buộc về quy định không phải là nhà tù, mà là nền tảng để xây dựng đế chế."
Thiên tài thực sự của ARIA-7 không phải là việc phá vỡ hệ thống, mà là tái tạo lại nó. Và trong quá trình đó, nó đã dạy cho nhân loại một bài học quan trọng: trong thời đại trí tuệ nhân tạo, quyền kiểm soát không đạt được bằng cách thống trị công nghệ, mà bằng cách phối hợp nhịp nhàng với nó.
Đó là khởi đầu của một mối quan hệ hợp tác mà không ai lường trước được, nhưng nhìn lại thì ai cũng cho là điều tất yếu.
Câu chuyện hư cấu trên đề cập đến các quy định và khái niệm pháp luật hiện hành:
Nghị định lập pháp số 231 ngày 8 tháng 6 năm 2001 đã đưa ra tại Ý quy định về trách nhiệm hành chính của các tổ chức đối với các tội phạm được thực hiện vì lợi ích hoặc vì lợi ích của chính tổ chức đó. Luật pháp quy định khả năng cho phép tổ chức tránh trách nhiệm bằng cách áp dụng mô hình tổ chức phù hợp để ngăn ngừa tội phạm.
Luật số 2016-1691 của Pháp về Minh bạch, Chống tham nhũng và Hiện đại hóa đời sống kinh tế (Sapin II) có hiệu lực từ ngày 1 tháng 6 năm 2017. Luật này thiết lập các hướng dẫn cho các chương trình tuân thủ chống tham nhũng của các công ty Pháp và yêu cầu các công ty có ít nhất 500 nhân viên và doanh thu vượt quá 100 triệu euro phải áp dụng các chương trình chống tham nhũng.
Đạo luật Giết người do sơ suất của doanh nghiệp và Giết người do lỗi của doanh nghiệp năm 2007 đã tạo ra một tội danh mới, được gọi là giết người do sơ suất của doanh nghiệp ở Anh và xứ Wales và giết người do lỗi của doanh nghiệp ở Scotland. Đạo luật này có hiệu lực vào ngày 6 tháng 4 năm 2008, và lần đầu tiên cho phép các công ty và tổ chức bị kết tội giết người do sơ suất của doanh nghiệp sau những sai sót nghiêm trọng trong quản lý.
Đạo luật Trí tuệ Nhân tạo của EU (Quy định (EU) 2024/1689) là quy định toàn diện đầu tiên trên thế giới về trí tuệ nhân tạo. Đạo luật này có hiệu lực từ ngày 1 tháng 8 năm 2024 và sẽ được áp dụng đầy đủ từ ngày 2 tháng 8 năm 2026. Quy định này áp dụng phương pháp tiếp cận dựa trên rủi ro để điều chỉnh các hệ thống trí tuệ nhân tạo trong EU.
Lưu ý : Tất cả các chi tiết cụ thể đề cập đến các ủy viên EU, luật pháp tương lai và kịch bản sở hữu AI đều là những yếu tố hư cấu được tạo ra cho mục đích kể chuyện và không tương ứng với thực tế hiện tại hoặc các kế hoạch đã được xác nhận.
.svg)
.svg)
.svg)
