Mối quan hệ giữa trí tuệ nhân tạo và nền dân chủ không phải là tuyến tính hay một chiều, mà là một mạng lưới các lực lượng xung đột vừa củng cố vừa đe dọa nền tảng của tiến trình dân chủ.

‍

Sự chuyển đổi của agora công cộng

Trí tuệ nhân tạo (AI) đã thay đổi sâu sắc không gian công cộng, nơi diễn ra các cuộc tranh luận dân chủ. Sự thay đổi này vượt xa vấn đề thông tin sai lệch đơn thuần. Chúng ta đang chứng kiến sự phân mảnh của trải nghiệm thông tin tập thể, vốn từ lâu đã là điều kiện tiên quyết cơ bản cho các nền dân chủ hiện đại.

‍

Khi những công dân khác nhau sống trong những thực tế thông tin hoàn toàn khác nhau, được cấu trúc bởi các thuật toán đề xuất, thì nền tảng chung cần thiết cho đối thoại dân chủ sẽ bị mất đi.

‍

Nghịch lý thay, trong khi AI đã nhân lên các nguồn thông tin có sẵn, nó cũng làm xói mòn khả năng của các xã hội dân chủ trong việc đạt được sự đồng thuận về những gì cấu thành nên "sự thật". Sự xói mòn nhận thức này đại diện cho một thách thức sâu sắc và nguy hiểm hơn so với việc phát tán tin giả.

‍

Sự tiến thoái lưỡng nan của quyền lực và năng lực

Các nền dân chủ đang đối mặt với một tình thế tiến thoái lưỡng nan cơ bản: các quyết định về AI đòi hỏi chuyên môn kỹ thuật cực kỳ cụ thể, nhưng việc giao phó những quyết định này cho các chuyên gia sẽ loại bỏ họ khỏi quy trình dân chủ. Điều này cho thấy sự căng thẳng chưa được giải quyết giữa nguyên tắc dân chủ (các quyết định do công dân đưa ra và vì công dân) và nhu cầu về chuyên môn chuyên sâu.

‍

Sự căng thẳng này càng trầm trọng hơn bởi thực tế là các hệ thống AI ngày càng phức tạp lại không chỉ khó hiểu đối với người dân thường, mà đôi khi ngay cả với chính những chuyên gia phát triển chúng. Làm sao sự kiểm soát dân chủ có thể hoạt động khi những công cụ mà chúng được cho là để quản lý lại vượt quá khả năng hiểu biết của con người?

‍

Nhắm mục tiêu chính trị và quy trình bầu cử

Việc nhắm mục tiêu chính trị thông qua AI ngày càng trở nên tinh vi trong các chiến dịch tranh cử đương đại. Các hệ thống AI phân tích các tập dữ liệu cử tri khổng lồ để tạo ra các thông điệp chính trị được cá nhân hóa cao. Just Security

‍

Nghiên cứu cho thấy quảng cáo chính trị được tạo ra bằng AI, nhắm mục tiêu theo cá nhân có sức thuyết phục hơn đáng kể so với nội dung chung chung. PubMed NIH

‍

Quy mô và hiệu quả của AI cho phép các chiến dịch tạo ra nội dung được cá nhân hóa cho hàng triệu cử tri cùng lúc, giúp việc nhắm mục tiêu vi mô khả thi và tiết kiệm chi phí hơn bao giờ hết. Politicalmarketer CSET

‍

Các nghiên cứu gần đây cho thấy các công cụ vận động tranh cử được hỗ trợ bởi AI có thể xác định các điểm yếu tâm lý ở cử tri và tạo ra các thông điệp khai thác những đặc điểm này. OUP Academic TechInformed

‍

Những lo ngại của đảng Dân chủ là rất đáng kể:

• Tiềm năng thao túng được chứng minh bằng nghiên cứu chỉ ra rằng nhắm mục tiêu vi mô có thể khai thác các lỗ hổng tâm lý OUP Academic TechInformed
• AI có thể góp phần gây ra sự phân cực bằng cách chủ yếu cung cấp cho cử tri nội dung phù hợp với quan điểm hiện tại của họ .
• Người bỏ phiếu thường không biết rằng họ đang nhận được nội dung chính trị được cá nhân hóa SF Gate TechInformed
• Các chiến dịch được tài trợ tốt có thể sử dụng các công cụ AI tinh vi hơn, có khả năng tạo ra sự chênh lệch về ảnh hưởng chính trị SF Gate Brennancenter

Hệ thống bỏ phiếu và cơ sở hạ tầng bầu cử cũng đang bị AI tác động theo cả hướng tích cực và tiêu cực:

• AI có thể cải thiện an ninh bầu cử bằng cách phát hiện các điểm bất thường và giám sát cơ sở hạ tầng để phát hiện các can thiệp tiềm ẩn Viện R Street Brookings
• Quản lý bầu cử có thể hiệu quả hơn nhờ AI giúp hợp lý hóa các quy trình như xác minh đăng ký cử tri Cisa Brookings
• Tuy nhiên, AI cũng mang đến những rủi ro như các cuộc tấn công lừa đảo tinh vi hơn, deepfake thông tin sai lệch về bầu cử và các chiến dịch thông tin sai lệch tự động quy mô lớn. Sophos News + 3

‍

Sự tham gia dân chủ và sự tham gia của công dân

AI mang đến cả cơ hội và thách thức cho sự tham gia dân chủ:

Tác động tích cực

• Cải thiện khả năng tiếp cận thông tin công dân : Công cụ AI có thể đơn giản hóa thông tin chính phủ phức tạp IEEE Brookings
• Cung cấp dịch vụ công tốt hơn : Các hệ thống hỗ trợ AI có thể phân tích dữ liệu dân sự để giúp chính phủ đáp ứng hiệu quả hơn nhu cầu của người dân Nextcity + 2
• Công cụ tham gia mở rộng : Các nền tảng như Pol.is sử dụng AI để phân tích ý kiến đóng góp của công chúng ở quy mô lớn ECNL Brookings
• Giảm thiểu rào cản tham gia : Dịch vụ dịch thuật AI có thể thúc đẩy sự tham gia của công dân đa ngôn ngữ ECNL Brookings

Tác động tiêu cực

• Thao túng thông tin : Nội dung do AI tạo ra có thể được sử dụng để phát tán thông tin sai lệch Brennancenter Brookings
• Khuếch đại các thành kiến hiện có : Hệ thống AI được đào tạo dựa trên dữ liệu thiên vị có thể duy trì và khuếch đại sự bất bình đẳng trong sự tham gia của công dân Brennancenter Brookings
• Giảm thiểu tác nhân con người : Việc quá phụ thuộc vào việc ra quyết định theo thuật toán trong quản trị có thể làm giảm khả năng phán đoán và trách nhiệm giải trình của con người
• Làm trầm trọng thêm khoảng cách số : Sự tiếp cận không bình đẳng với các công nghệ dân sự hỗ trợ bởi AI có thể làm sâu sắc thêm khoảng cách tham gia hiện tại Aiworldtoday + 2

‍

Việc tái cấu trúc các mối quan hệ quyền lực

AI không chỉ đơn thuần thay đổi phương thức tranh luận dân chủ; nó còn tái cấu trúc sâu sắc các mối quan hệ quyền lực trong xã hội. Việc kiểm soát cơ sở hạ tầng AI giờ đây đại diện cho một hình thức quyền lực tương đương, nếu không muốn nói là vượt trội, so với quyền lực truyền thống được thực thi bởi các thể chế dân chủ như quốc hội.

‍

Chúng ta đang chứng kiến sự chuyển dịch quyền lực ra quyết định từ các thể chế công chịu sự kiểm soát dân chủ sang các thực thể tư nhân hoạt động theo những logic khác nhau. Sự chuyển dịch quyền lực này thường diễn ra một cách vô hình, thông qua việc ủy thác dần dần các quyết định cho các hệ thống tự động hoạt động theo các thông số không phải lúc nào cũng minh bạch hoặc được thiết lập một cách dân chủ.

‍

Định nghĩa lại sự tham gia dân chủ

AI đang biến đổi chính khái niệm về sự tham gia dân chủ. Một mặt, nó cung cấp các công cụ cho các hình thức dân chủ trực tiếp và có sự tham gia hơn; mặt khác, nó tạo ra những rào cản mới về nhận thức và công nghệ trong việc tiếp cận. Trong quá trình này, giá trị của ý kiến cá nhân cũng đang được định nghĩa lại: trong bối cảnh cá nhân hóa thuật toán ngày càng gia tăng, làm thế nào chúng ta có thể phân biệt giữa sở thích cá nhân đích thực và sở thích do hệ thống khuyến nghị tạo ra?

‍

Sự mâu thuẫn này cũng thể hiện rõ trong các hệ thống thảo luận được hỗ trợ bởi AI: chúng có thể giúp các quá trình ra quyết định phức tạp dễ tiếp cận hơn, nhưng cũng có nguy cơ đơn giản hóa quá mức các vấn đề đòi hỏi sự suy ngẫm sâu sắc hơn của công chúng.

‍

Sự biến đổi của các thể chế dân chủ

Các thể chế dân chủ truyền thống, được hình thành trong thời kỳ tiền kỹ thuật số, đang chật vật thích ứng với tốc độ phát triển chóng mặt của công nghệ. Sự bất đồng bộ về mặt thời gian giữa sự phát triển nhanh chóng của AI và tốc độ chậm hơn của các quy trình dân chủ tạo ra một khoảng trống quản trị có nguy cơ bị lấp đầy bởi các cơ chế ra quyết định phi dân chủ.

‍

Thách thức không chỉ đơn thuần là điều chỉnh AI thông qua các thể chế hiện có mà còn phải xem xét lại các thể chế này để phù hợp với thời đại mà AI ngày càng đóng vai trò trung tâm trong các quá trình xã hội, kinh tế và chính trị.

‍

Một khái niệm mới về quyền công dân trong thời đại AI

Để giải quyết những thách thức này, chúng ta cần xây dựng một quan niệm mới về quyền công dân dân chủ, trong đó lồng ghép nhận thức về vai trò của AI. Điều này đòi hỏi phải vượt qua cả sự lạc quan ngây thơ về công nghệ, vốn chỉ coi AI là cơ hội để cải thiện nền dân chủ, lẫn sự bi quan vốn chỉ coi nó là một mối đe dọa.

‍

Thay vào đó, nó đòi hỏi phải phát triển khả năng hiểu biết công dân bao gồm khả năng đánh giá một cách phê phán ảnh hưởng của các thuật toán, tham gia một cách có ý nghĩa vào các cuộc tranh luận về các vấn đề công nghệ phức tạp và yêu cầu sự minh bạch và trách nhiệm giải trình từ những người phát triển và triển khai các hệ thống AI có tác động xã hội đáng kể.

‍

Cuối cùng, mối quan hệ giữa AI và nền dân chủ không được xác định trước bởi chính công nghệ, mà sẽ phụ thuộc vào năng lực chung của chúng ta trong việc tưởng tượng và xây dựng các thể chế, chuẩn mực và thực tiễn cho phép phát triển công nghệ hướng tới việc củng cố chứ không phải làm xói mòn các giá trị dân chủ cơ bản.

‍

Câu hỏi thường gặp về Trí tuệ nhân tạo và Dân chủ

‍

AI có thể tăng cường sự tham gia dân chủ như thế nào?

AI có thể cải thiện sự tham gia dân chủ bằng cách giúp thông tin chính phủ dễ tiếp cận hơn, cho phép tham gia đa ngôn ngữ, phân tích ý kiến đóng góp của công chúng ở quy mô lớn và cá nhân hóa trải nghiệm tham gia công dân. Sự kiện IEEE OECD Ví dụ, các dịch vụ dịch thuật được tăng cường AI có thể cho phép các nhóm thiểu số ngôn ngữ tham gia đầy đủ hơn vào các quy trình dân chủ, trong khi các công cụ phân tích dữ liệu có thể giúp chính phủ xác định và giải quyết bất bình đẳng trong cung cấp dịch vụ công. Nextcity + 2

‍

Những rủi ro đáng lo ngại nhất của AI đối với hệ thống dân chủ là gì?

Những rủi ro đáng kể nhất bao gồm: sự lan tràn của thông tin sai lệch và deepfake có sức thuyết phục, làm suy yếu các sự thật đã được công nhận; thao túng thông qua nội dung chính trị được nhắm mục tiêu vi mô; thiên kiến thuật toán loại trừ một số nhóm nhất định khỏi các quy trình dân chủ; và lỗ hổng bảo mật trong cơ sở hạ tầng bầu cử. Sage Journals + 5 Nghiên cứu cho thấy những rủi ro này không chỉ đơn thuần là lý thuyết—các nghiên cứu ghi nhận sức mạnh thuyết phục của nội dung chính trị do AI tạo ra được cá nhân hóa dựa trên hồ sơ tâm lý cá nhân. PubMed + 2

‍

Chính phủ có thể quản lý AI trong các chiến dịch chính trị như thế nào?

Các phương pháp quản lý hiệu quả bao gồm: yêu cầu công bố bắt buộc đối với nội dung chính trị do AI tạo ra; giới hạn các loại dữ liệu cá nhân có thể được sử dụng cho mục đích nhắm mục tiêu chính trị vi mô; cơ chế giám sát độc lập để giám sát các hệ thống AI trong chiến dịch tranh cử; và các sáng kiến giáo dục công chúng nhằm nâng cao nhận thức của cử tri về các kỹ thuật thuyết phục được tăng cường bằng AI. PBS+4 Đạo luật AI của EU là một ví dụ về khuôn khổ quản lý dựa trên rủi ro, đặc biệt đề cập đến việc sử dụng AI trong các quy trình dân chủ. Europe+2

‍

Người dân nên có vai trò gì trong việc quản lý AI?

Người dân nên có những cơ hội thiết thực để định hình quản trị AI thông qua các cơ chế tham gia như hội nghị công dân, tham vấn cộng đồng và các quy trình liên tục thu hút sự tham gia của các bên liên quan. Nghiên cứu của Brookings cho thấy việc thu hút các bên liên quan đa dạng trong suốt vòng đời AI sẽ tạo ra các hệ thống đáng tin cậy hơn, phản ánh tốt hơn các giá trị xã hội. Viện Adalovelace + 13 mô hình thành công như Hiến chương Dữ liệu Camden chứng minh cách thức sự tham gia của người dân có thể thiết lập khuôn khổ đạo đức cho việc sử dụng AI trong các dịch vụ công. OECD

‍

Làm thế nào chúng ta có thể bảo vệ cơ sở hạ tầng bầu cử khỏi các mối đe dọa do AI gây ra?

Các chiến lược bảo vệ bao gồm: triển khai các biện pháp an ninh mạng mạnh mẽ như xác thực đa yếu tố; đào tạo các quan chức bầu cử để nhận biết các nỗ lực lừa đảo được tăng cường bằng AI; phát triển các hệ thống để xác định và chống lại thông tin sai lệch về bầu cử do AI tạo ra; thiết lập quy trình xác minh cho các thông tin chính thức về bầu cử; và tạo ra các hệ thống dự phòng cho cơ sở hạ tầng bầu cử quan trọng. ABC News + 2 Cơ quan An ninh Mạng và Cơ sở hạ tầng (CISA) cung cấp hướng dẫn cụ thể cho các quan chức bầu cử về việc giảm thiểu rủi ro AI. Cisa Cisa

‍

AI có thể thay đổi mối quan hệ giữa công dân và chính phủ như thế nào?

AI có thể chuyển đổi mối quan hệ giữa công dân và chính phủ bằng cách cho phép các dịch vụ công được cá nhân hóa hơn, tạo ra các kênh mới cho sự tham gia của công dân, tự động hóa một số chức năng của chính phủ và có khả năng thay đổi động lực quyền lực trong các hệ thống dân chủ. OECD hiệu quả . Hướng đi của sự chuyển đổi này phụ thuộc phần lớn vào các lựa chọn quản trị - liệu AI được triển khai theo cách nâng cao trách nhiệm giải trình dân chủ hay tập trung quyền lực vào các hệ thống kỹ thuật với sự giám sát hạn chế. ScienceDirect + 2

Cần có sự hợp tác quốc tế nào cho việc quản trị AI trong bối cảnh dân chủ?

Hợp tác quốc tế là điều cần thiết để thiết lập các tiêu chuẩn chung, ngăn chặn sự phân mảnh quy định, giải quyết các tác động xuyên biên giới của AI và thúc đẩy sự thống nhất xung quanh các giá trị dân chủ trong phát triển AI. OECD + 2 Các Nguyên tắc AI của OECD đại diện cho một mô hình phối hợp quốc tế, cung cấp một khuôn khổ chung được 47 khu vực pháp lý trên toàn cầu áp dụng, đồng thời cho phép linh hoạt trong việc triển khai ở cấp quốc gia. OECD Brookings

‍

Làm thế nào chúng ta có thể đảm bảo rằng AI có lợi cho nền dân chủ thay vì làm suy yếu nó?

Để đảm bảo AI mang lại lợi ích cho nền dân chủ, cần có: khuôn khổ quản trị chủ động, dựa trên giá trị; các yêu cầu minh bạch và khả năng giải thích có ý nghĩa; các phương pháp tiếp cận có sự tham gia vào quá trình phát triển và quản lý AI; đầu tư vào kiến thức số; bảo vệ các quyền cơ bản trong các ứng dụng AI; và các cơ chế để buộc các hệ thống AI và những người phát triển chúng phải chịu trách nhiệm. Hiệu quả+4

Bằng chứng cho thấy các phương pháp quản trị dự đoán hiệu quả hơn so với quy định phản ứng. OECD Brookings

‍

Phần kết luận

Trí tuệ nhân tạo (AI) mang đến cả cơ hội lẫn thách thức đáng kể cho các hệ thống dân chủ toàn cầu. Bài đánh giá toàn diện của chúng tôi đưa ra một số kết luận chính:

1. Sự phát triển công nghệ vẫn tiếp diễn : Các công cụ AI dùng để tạo ra và phát tán thông tin sai lệch đang ngày càng tinh vi và dễ tiếp cận hơn, đòi hỏi sự cảnh giác liên tục và phản ứng thích ứng. Đối thoại chính trị
2. Tác động mang tính bối cảnh : Tác động của thông tin sai lệch được AI tăng cường có sự khác biệt đáng kể trong bối cảnh xã hội, chính trị và truyền thông, với một số xã hội tỏ ra kiên cường hơn những xã hội khác. The Washington Post + 2
3. Giải pháp đòi hỏi sự hợp tác : Phản ứng hiệu quả trước thông tin sai lệch về AI đòi hỏi sự hợp tác của nhiều bên liên quan giữa các công ty công nghệ, chính phủ, xã hội dân sự và người dân. Acigjournal + 4
4. Phán đoán của con người vẫn là yếu tố thiết yếu : Bất chấp những tiến bộ trong hệ thống phát hiện AI, tư duy phản biện và hiểu biết về truyền thông của con người vẫn là biện pháp phòng thủ tối ưu chống lại thông tin sai lệch tinh vi. Vt AARP
5. Cần có sự hiểu biết sâu sắc : Ngoài các giải pháp công nghệ, việc giải quyết thông tin sai lệch do AI tăng cường đòi hỏi phải giải quyết sự phân cực xã hội tiềm ẩn, những thách thức trong hệ sinh thái truyền thông và những lỗ hổng trong giáo dục công dân. Taylor & Francis Nature