Bảo mật dữ liệu và quyền riêng tư trong thời đại AI: Góc nhìn từ Sách trắng của Stanford

‍

Khi các tổ chức ngày càng áp dụng các giải pháp AI để thúc đẩy hiệu quả và đổi mới, các mối quan tâm về bảo mật dữ liệu và quyền riêng tư đã trở thành ưu tiên hàng đầu. Như đã nêu trong bản tóm tắt của sách trắng Stanford về Quyền riêng tư và Bảo vệ Dữ liệu trong Kỷ nguyên AI (2023), "dữ liệu là nền tảng của tất cả các hệ thống AI" và "sự phát triển của AI sẽ tiếp tục làm tăng nhu cầu dữ liệu đào tạo của các nhà phát triển, thúc đẩy cuộc đua thu thập dữ liệu thậm chí còn lớn hơn so với những thập kỷ trước." Mặc dù AI mang đến những cơ hội to lớn, nhưng nó cũng đặt ra những thách thức riêng biệt đòi hỏi chúng ta phải xem xét lại một cách cơ bản các phương pháp tiếp cận bảo vệ dữ liệu. Bài viết này xem xét các cân nhắc chính về bảo mật và quyền riêng tư cho các tổ chức triển khai hệ thống AI và cung cấp hướng dẫn thực tế để bảo vệ dữ liệu nhạy cảm trong suốt vòng đời của AI.

‍

Hiểu về bối cảnh bảo mật và quyền riêng tư của AI

Như đã nêu bật trong Chương 2 của sách trắng Stanford, "Bảo vệ Dữ liệu và Quyền riêng tư: Các Khái niệm Chính và Bối cảnh Quy định", việc quản lý dữ liệu trong kỷ nguyên AI đòi hỏi một phương pháp tiếp cận xem xét các khía cạnh liên kết với nhau, vượt ra ngoài phạm vi bảo mật kỹ thuật đơn thuần. Theo bản tóm tắt, có ba khuyến nghị chính để giảm thiểu rủi ro về quyền riêng tư dữ liệu do sự phát triển và ứng dụng AI gây ra:

1. Phi chuẩn hóa việc thu thập dữ liệu mặc định bằng cách chuyển từ hệ thống chọn không tham gia sang hệ thống chọn tham gia
2. Tập trung vào chuỗi cung ứng dữ liệu AI để cải thiện quyền riêng tư và bảo vệ dữ liệu
3. Thay đổi cách tiếp cận trong việc tạo và quản lý dữ liệu cá nhân , hỗ trợ phát triển các cơ chế quản trị mới

Những khía cạnh này đòi hỏi những cách tiếp cận cụ thể vượt ra ngoài các hoạt động an ninh mạng truyền thống.

Tái định nghĩa việc thu thập dữ liệu trong kỷ nguyên AI

Như sách trắng của Stanford đã nêu rõ, "việc thu thập dữ liệu phần lớn không bị hạn chế gây ra những rủi ro riêng tư vượt ra ngoài phạm vi cá nhân—chúng tích tụ lại gây ra những tác hại cho xã hội mà không thể giải quyết chỉ thông qua việc thực hiện các quyền dữ liệu cá nhân". Đây là một trong những quan sát quan trọng nhất của bản tóm tắt và kêu gọi chúng ta phải xem xét lại một cách cơ bản các chiến lược bảo vệ dữ liệu của mình.

Không chuẩn hóa việc thu thập dữ liệu mặc định

Trích dẫn trực tiếp từ gợi ý đầu tiên trong bản tóm tắt của Stanford:

• Chuyển từ Tùy chọn Không tham gia sang Tùy chọn Tham gia : "Phi chuẩn hóa việc thu thập dữ liệu mặc định bằng cách chuyển từ mô hình tùy chọn không tham gia sang mô hình tùy chọn tham gia. Người thu thập dữ liệu phải tạo điều kiện giảm thiểu dữ liệu thực sự thông qua các chiến lược 'quyền riêng tư theo mặc định' và áp dụng các tiêu chuẩn kỹ thuật và cơ sở hạ tầng cho các cơ chế đồng ý có ý nghĩa."
• Giảm thiểu dữ liệu hiệu quả : Triển khai "quyền riêng tư theo mặc định" bằng cách chỉ thu thập dữ liệu thực sự cần thiết cho trường hợp sử dụng cụ thể, như được khuyến nghị trong Chương 3 của sách trắng "Những lời khiêu khích và dự đoán"
• Cơ chế đồng ý có ý nghĩa : Áp dụng các tiêu chuẩn kỹ thuật và cơ sở hạ tầng cho phép có được sự đồng ý thực sự có thông tin đầy đủ và chi tiết

‍

Đề xuất triển khai : Triển khai hệ thống phân loại dữ liệu tự động dán nhãn các mục nhạy cảm và áp dụng các biện pháp kiểm soát phù hợp dựa trên mức độ nhạy cảm, với cài đặt mặc định là không thu thập.

‍

‍

Cải thiện tính minh bạch trong chuỗi cung ứng dữ liệu AI

Theo khuyến nghị thứ hai trong bản tóm tắt của Stanford, tính minh bạch và trách nhiệm giải trình trong toàn bộ chuỗi cung ứng dữ liệu là điều cần thiết đối với bất kỳ hệ thống quản lý nào giải quyết vấn đề quyền riêng tư dữ liệu.

Tập trung vào chuỗi cung ứng dữ liệu AI

Sách trắng nêu rõ rằng cần phải "tập trung vào chuỗi cung ứng dữ liệu AI để cải thiện quyền riêng tư và bảo vệ dữ liệu. Đảm bảo tính minh bạch và trách nhiệm giải trình của các tập dữ liệu trong suốt vòng đời của chúng phải là mục tiêu của bất kỳ hệ thống quản lý nào giải quyết vấn đề quyền riêng tư dữ liệu". Điều này bao gồm:

• Khả năng truy xuất nguồn gốc đầy đủ : Duy trì tài liệu chi tiết về nguồn dữ liệu, chuyển đổi và sử dụng
• Tính minh bạch của bộ dữ liệu : Đảm bảo khả năng hiển thị thành phần và nguồn gốc của dữ liệu được sử dụng trong các mô hình, đặc biệt là khi xem xét các mối quan ngại được nêu trong Chương 2 liên quan đến các hệ thống AI tạo sinh
• Kiểm toán thường xuyên : Thực hiện kiểm toán độc lập các quy trình thu thập và sử dụng dữ liệu

Đề xuất triển khai : Triển khai hệ thống xuất xứ dữ liệu ghi lại toàn bộ vòng đời của dữ liệu được sử dụng trong đào tạo và vận hành hệ thống AI.

Thay đổi cách tiếp cận để tạo và quản lý dữ liệu cá nhân

Khuyến nghị thứ ba trong bản tóm tắt của Stanford nêu rõ rằng "cần phải thay đổi cách tiếp cận trong việc tạo và quản lý dữ liệu cá nhân". Theo tài liệu, "Các nhà hoạch định chính sách nên hỗ trợ việc phát triển các cơ chế quản trị và cơ sở hạ tầng kỹ thuật mới (ví dụ: trung gian dữ liệu và cơ sở hạ tầng ủy quyền dữ liệu) để hỗ trợ và tự động hóa việc thực hiện các quyền và sở thích dữ liệu cá nhân."

Cơ chế quản trị dữ liệu mới

• Các trung gian dữ liệu : Hỗ trợ phát triển các thực thể có thể hoạt động như người được ủy thác thay mặt cho các cá nhân, như được đề xuất cụ thể trong sách trắng
• Cơ sở hạ tầng cấp phép dữ liệu : Tạo các hệ thống cho phép cá nhân thể hiện các tùy chọn chi tiết về cách dữ liệu của họ được sử dụng
• Tự động hóa các quyền cá nhân : Phát triển các cơ chế tự động hóa việc thực hiện các quyền dữ liệu cá nhân, thừa nhận, như đã nêu trong Chương 3, rằng chỉ riêng các quyền cá nhân là không đủ

Đề xuất triển khai : Áp dụng hoặc đóng góp vào việc phát triển các tiêu chuẩn mở cho việc cấp phép dữ liệu, cho phép khả năng tương tác giữa các hệ thống và dịch vụ khác nhau.

Bảo vệ các mô hình trí tuệ nhân tạo

Bản thân các mô hình AI cần có biện pháp bảo vệ cụ thể:

• Bảo mật mô hình : Bảo vệ tính toàn vẹn và tính bảo mật của mô hình thông qua mã hóa và kiểm soát truy cập
• Phân phối an toàn : Sử dụng container hóa và ký mã để đảm bảo tính toàn vẹn của mô hình của bạn
• Giám sát liên tục : Triển khai hệ thống giám sát để phát hiện truy cập trái phép hoặc hành vi bất thường

Đề xuất triển khai : Thiết lập “cổng bảo mật” trong quy trình phát triển yêu cầu xác thực bảo mật và quyền riêng tư trước khi đưa mô hình vào sản xuất.

Phòng thủ chống lại các cuộc tấn công của kẻ thù

Hệ thống AI phải đối mặt với các hướng tấn công độc đáo:

• Ngộ độc dữ liệu : Ngăn chặn thao túng dữ liệu đào tạo
• Trích xuất thông tin nhạy cảm : Bảo vệ chống lại các kỹ thuật có thể trích xuất dữ liệu đào tạo từ phản hồi của mô hình
• Suy luận thành viên : Ngăn chặn việc xác định thành viên của dữ liệu cụ thể trong tập dữ liệu đào tạo

Đề xuất triển khai : Triển khai các kỹ thuật đào tạo đối kháng đặc biệt để phơi bày các mô hình trước các vectơ tấn công tiềm ẩn trong quá trình phát triển.

Những cân nhắc cụ thể theo ngành

Nhu cầu về quyền riêng tư và bảo mật khác nhau đáng kể giữa các ngành:

Chăm sóc sức khỏe

• Tuân thủ HIPAA đối với Thông tin Y tế được Bảo vệ
• Các biện pháp bảo vệ đặc biệt cho dữ liệu sinh trắc học và bộ gen
• Cân bằng tiện ích tìm kiếm và bảo vệ quyền riêng tư

Dịch vụ tài chính

• Yêu cầu của PCI DSS về thông tin thanh toán
• Những cân nhắc về tuân thủ chống rửa tiền (AML)
• Quản lý dữ liệu khách hàng nhạy cảm bằng các phương pháp bảo mật khác biệt

Khu vực công

• Quy định về bảo vệ dữ liệu của công dân
• Tính minh bạch trong các quy trình ra quyết định thuật toán
• Tuân thủ các quy định về quyền riêng tư của địa phương, quốc gia và quốc tế

Khung triển khai thực tế

Để triển khai phương pháp tiếp cận toàn diện về quyền riêng tư và bảo mật dữ liệu trong AI cần:

1. Quyền riêng tư và bảo mật theo thiết kế
   • Kết hợp các cân nhắc về quyền riêng tư ngay từ đầu quá trình phát triển
   • Tiến hành đánh giá tác động quyền riêng tư cho mọi trường hợp sử dụng AI
2. Quản trị dữ liệu tích hợp
   • Điều chỉnh quản lý AI phù hợp với các sáng kiến quản trị dữ liệu rộng hơn
   • Áp dụng các biện pháp kiểm soát nhất quán trên tất cả các hệ thống xử lý dữ liệu
3. Giám sát liên tục
   • Thực hiện giám sát liên tục việc tuân thủ quyền riêng tư
   • Thiết lập các số liệu cơ sở để phát hiện các điểm bất thường
4. Sự liên kết về mặt quy định
   • Đảm bảo tuân thủ các quy định hiện hành và đang phát triển
   • Tài liệu về các biện pháp bảo mật cho các cuộc kiểm toán theo quy định

Nghiên cứu điển hình: Triển khai tại các tổ chức tài chính

Một tổ chức tài chính toàn cầu đã triển khai hệ thống phát hiện gian lận dựa trên AI với phương pháp tiếp cận nhiều lớp:

• Mức độ bảo mật dữ liệu : Mã hóa thông tin nhạy cảm của khách hàng trước khi xử lý
• Quản lý sự đồng ý : Một hệ thống chi tiết cho phép khách hàng kiểm soát dữ liệu nào có thể được sử dụng và cho mục đích gì.
• Tính minh bạch : Bảng thông tin khách hàng hiển thị cách dữ liệu của họ được sử dụng trong các hệ thống AI
• Giám sát : Phân tích liên tục các thông tin đầu vào, đầu ra và số liệu hiệu suất để phát hiện các hành vi vi phạm quyền riêng tư tiềm ẩn

Phần kết luận

Như đã nêu rõ trong phần tóm tắt của sách trắng Stanford, "mặc dù các luật về quyền riêng tư hiện hành và được đề xuất, dựa trên các Thực hành Thông tin Công bằng (FIP) được chấp nhận trên toàn cầu, ngầm điều chỉnh sự phát triển của AI, nhưng chúng vẫn chưa đủ để giải quyết vấn nạn thu thập dữ liệu và những tác hại đối với quyền riêng tư của cá nhân và hệ thống do đó gây ra." Hơn nữa, "ngay cả luật có chứa các điều khoản rõ ràng về việc ra quyết định theo thuật toán và các hình thức AI khác cũng không cung cấp các biện pháp quản trị dữ liệu cần thiết để điều chỉnh một cách có ý nghĩa dữ liệu được sử dụng trong các hệ thống AI."

Trong thời đại AI, việc bảo vệ dữ liệu và quyền riêng tư không còn bị coi nhẹ. Các tổ chức phải tuân thủ ba khuyến nghị chính của sách trắng:

1. Chuyển từ mô hình thu thập dữ liệu bừa bãi sang mô hình dựa trên sự đồng ý tham gia có thông tin
2. Đảm bảo tính minh bạch và trách nhiệm giải trình trong toàn bộ chuỗi cung cấp dữ liệu
3. Hỗ trợ các cơ chế quản trị mới giúp cá nhân kiểm soát dữ liệu của mình tốt hơn

‍

Việc triển khai các khuyến nghị này đại diện cho một sự chuyển đổi căn bản trong cách chúng ta suy nghĩ và quản lý dữ liệu trong hệ sinh thái AI. Như phân tích trong sách trắng của Stanford cho thấy, các hoạt động thu thập và sử dụng dữ liệu hiện tại là không bền vững và có nguy cơ làm suy yếu niềm tin của công chúng vào các hệ thống AI, đồng thời tạo ra các lỗ hổng hệ thống vượt xa phạm vi cá nhân.

‍

Bối cảnh pháp lý đã và đang thay đổi để ứng phó với những thách thức này, bằng chứng là các cuộc thảo luận quốc tế ngày càng gia tăng về nhu cầu quản lý không chỉ đầu ra AI mà còn cả quy trình thu thập dữ liệu hỗ trợ các hệ thống này. Tuy nhiên, chỉ tuân thủ quy định thôi là chưa đủ.

‍

Các tổ chức áp dụng phương pháp tiếp cận quản lý dữ liệu một cách đạo đức và minh bạch sẽ có vị thế tốt hơn trong môi trường mới này, đạt được lợi thế cạnh tranh thông qua niềm tin của người dùng và khả năng phục hồi hoạt động tốt hơn. Thách thức đặt ra là cân bằng giữa đổi mới công nghệ với trách nhiệm xã hội, nhận thức rằng tính bền vững thực sự của AI phụ thuộc vào khả năng tôn trọng và bảo vệ các quyền cơ bản của những người mà nó phục vụ.