Khi AI ngày càng hỗ trợ các chức năng kinh doanh quan trọng, các vấn đề về đạo đức, trách nhiệm giải trình và quản trị đã chuyển từ các cuộc thảo luận lý thuyết sang các yêu cầu thực tiễn. Tuy nhiên, như đã được nêu bật trong các cuộc thảo luận gần đây trong cộng đồng công nghệ , có một khoảng cách đáng ngạc nhiên giữa tính khả dụng của các công cụ nguồn mở cho AI đạo đức và việc cung cấp thực tế các giải pháp SaaS chuyên dụng trong lĩnh vực này.
Các chuyên gia trong ngành đang đặt câu hỏi: "Tại sao chưa có sản phẩm SaaS AI đạo đức nào?". Mặc dù các công cụ như ELI5, LIME, SHAP và Fairlearn đã được phổ biến rộng rãi, thị trường cho các giải pháp AI-as-a-service đạo đức dường như vẫn còn kém phát triển một cách đáng ngạc nhiên. Khoảng cách này đặt ra câu hỏi về giá trị thương mại được nhận thức của đạo đức AI trong hệ sinh thái công nghệ hiện tại.
Tại công ty chúng tôi, chúng tôi tin rằng các cân nhắc về đạo đức nên là yếu tố cơ bản, chứ không phải thứ yếu, trong quá trình phát triển và triển khai trí tuệ nhân tạo. Bài viết này phác thảo khuôn khổ toàn diện của chúng tôi về AI có đạo đức, so sánh với thực tế thị trường hiện tại và những thách thức thực tế được các chuyên gia trong ngành nêu bật.
Đối với các nhà cung cấp SaaS, AI có đạo đức không chỉ là việc tránh gây hại, mà còn là việc xây dựng các sản phẩm bền vững, tạo ra giá trị lâu dài. Phương pháp tiếp cận của chúng tôi dựa trên một số niềm tin cốt lõi:
Tuy nhiên, như các chuyên gia trong ngành đã lưu ý, giá trị thương mại của AI đạo đức vẫn còn gây tranh cãi khi thiếu áp lực pháp lý mạnh mẽ. Một chuyên gia nhận định: "Môi trường pháp lý hiện tại không cho phép một công ty phải đối mặt với rủi ro trách nhiệm pháp lý lớn nếu thuật toán của họ không có đạo đức, và tôi thực sự không thấy ai xếp hàng ủng hộ bất kỳ công ty nào tự quảng cáo là sử dụng AI đạo đức 100%."
Sự căng thẳng giữa lý tưởng đạo đức và thực tế thị trường là thách thức cơ bản đối với các công ty muốn đưa đạo đức trở thành lợi thế cạnh tranh.
Trước khi trình bày khuôn khổ của chúng tôi, điều quan trọng là phải thừa nhận những thách thức đáng kể đã hạn chế sự phát triển của các giải pháp SaaS AI có đạo đức:
Như các chuyên gia trong ngành đã chỉ ra, "khái niệm 'AI đạo đức' thực sự khá phụ thuộc vào bối cảnh." Những gì được coi là đạo đức rất khác nhau giữa các nền văn hóa, ngành nghề, và thậm chí giữa các cá nhân trong cùng một tổ chức. Một chuyên gia nhận xét: "Tôi nghĩ rằng định nghĩa về đạo đức khác nhau tùy từng người. Một số người cho rằng đó là vấn đề thù lao. Một số khác lại cho rằng sở hữu trí tuệ về bản chất là phi đạo đức, nên thù lao cũng sẽ là phi đạo đức."
Do thiếu các quy định bắt buộc về kiểm tra tính công bằng trong AI, nhiều tổ chức không thấy lợi tức đầu tư rõ ràng cho các công cụ AI có đạo đức. Như một giám đốc công nghệ đã lưu ý, "Thị trường coi trọng việc tỏ ra có đạo đức hơn là việc thực sự có đạo đức." Khoảng cách giữa hình thức và nội dung này làm phức tạp thêm nỗ lực phát triển các đề xuất giá trị hấp dẫn.
Việc triển khai các giải pháp AI có đạo đức đòi hỏi quyền truy cập sâu vào các mô hình độc quyền và dữ liệu đào tạo, làm dấy lên lo ngại về bảo mật và sở hữu trí tuệ. Như một nhà nghiên cứu đã lưu ý, "Các thuật toán AI có thể giải thích được đã là mã nguồn mở và yêu cầu quyền truy cập vào mô hình, vì vậy việc lưu trữ bất cứ thứ gì là không hợp lý."
Các công ty SaaS cung cấp dịch vụ AI có đạo đức có thể phải đối mặt với các vấn đề trách nhiệm pháp lý phức tạp nếu công cụ của họ không phát hiện đầy đủ các vấn đề đạo đức. Một cố vấn pháp lý đã đề xuất: "Họ có nên đưa ra một hình thức bồi thường nào đó không? Tôi không hiểu biết nhiều về bối cảnh pháp lý hoặc vấn đề kinh doanh, nhưng đó là một trong những câu hỏi đầu tiên tôi muốn hỏi."
Bất chấp những thách thức này, một số công ty đã bắt đầu nổi lên trong lĩnh vực này với các dịch vụ như DataRobot, cung cấp khả năng giám sát tính công bằng và thiên vị thông qua các giải pháp MLOps của họ.
Phương pháp tiếp cận của chúng tôi được xây dựng xung quanh năm trụ cột có mối liên hệ với nhau, mỗi trụ cột đều có ý nghĩa thực tế đối với cách chúng tôi phát triển và cung cấp các giải pháp SaaS của mình:
Nguyên tắc cốt lõi: Hệ thống AI của chúng tôi phải đối xử công bằng với mọi người dùng và đối tượng, tránh phân biệt đối xử không công bằng hoặc đối xử ưu đãi.
Ứng dụng thực tế:
Nghiên cứu tình huống giả định: Trong một hệ thống phân tích nguồn nhân lực, điều quan trọng là phải đảm bảo các mô hình không vô tình gây bất lợi cho "khoảng cách nghề nghiệp" - một yếu tố ảnh hưởng không cân xứng đến phụ nữ và người chăm sóc. Thông qua các giao thức kiểm toán công bằng nghiêm ngặt, những thành kiến này có thể được xác định và hệ thống được thiết kế lại để đánh giá sự thăng tiến nghề nghiệp một cách công bằng hơn.
Giải quyết các thách thức của thị trường: Chúng tôi nhận thấy rằng, như các chuyên gia trong ngành đã đề xuất, cho đến khi có luật yêu cầu chứng minh tính công bằng trong AI, loại phân tích này có thể được sử dụng chủ yếu như một cuộc kiểm toán nội bộ cho các tổ chức muốn triển khai AI một cách có trách nhiệm.
Nguyên tắc cốt lõi: Người dùng cần hiểu cách thức và lý do tại sao hệ thống AI của chúng tôi đưa ra những kết luận cụ thể, đặc biệt là đối với các quyết định có rủi ro cao.
Ứng dụng thực tế:
Nghiên cứu tình huống giả định: Các công cụ dự báo tài chính dựa trên AI nên cung cấp khoảng tin cậy bên cạnh các dự báo và cho phép người dùng khám phá cách các yếu tố khác nhau ảnh hưởng đến các dự báo. Tính minh bạch này giúp người dùng hiểu không chỉ những gì hệ thống dự đoán mà còn cả lý do tại sao hệ thống làm như vậy và mức độ tin cậy của hệ thống.
Giải quyết các thách thức của thị trường: Như đã nêu bật trong cuộc thảo luận của ngành, việc tích hợp các yếu tố này vào các sản phẩm hiện có, như DataRobot đã làm với hệ thống giám sát MLOps của họ, có thể hiệu quả hơn là cung cấp chúng dưới dạng các dịch vụ độc lập.
Nguyên tắc cốt lõi: Tôn trọng quyền riêng tư phải được xây dựng trong mọi lớp của quy trình dữ liệu, từ khâu thu thập đến xử lý và lưu trữ.
Ứng dụng thực tế:
Nghiên cứu tình huống giả định: Một nền tảng phân tích khách hàng được thiết kế có đạo đức nên sử dụng các kỹ thuật tổng hợp cung cấp thông tin chi tiết có giá trị mà không làm lộ hành vi của từng khách hàng. Phương pháp tiếp cận bảo mật theo thiết kế này sẽ cho phép các công ty nắm bắt xu hướng mà không xâm phạm quyền riêng tư của khách hàng.
Đáp ứng những thách thức của thị trường: Như đã lưu ý trong cuộc thảo luận trong ngành, "Bạn có thể đang nhầm lẫn giữa đạo đức và tuân thủ quy định (là hai khái niệm rất khác nhau, ít nhất là trong bối cảnh Hoa Kỳ). Thực tế, tôi biết một số công ty khởi nghiệp có đề xuất giá trị là thuê ngoài một số khía cạnh của việc này, nhưng họ tập trung nhiều hơn vào quyền riêng tư dữ liệu."
Nguyên tắc cốt lõi: Một cơ cấu trách nhiệm rõ ràng đảm bảo rằng các cân nhắc về đạo đức không bị bỏ sót trong quá trình phát triển.
Ứng dụng thực tế:
Nghiên cứu tình huống giả định: Một hội đồng đánh giá đạo đức hiệu quả nên tiến hành đánh giá định kỳ các thành phần AI chính của nền tảng. Những đánh giá này có thể xác định các vấn đề tiềm ẩn, chẳng hạn như cấu trúc khuyến khích không mong muốn trong công cụ đề xuất, trước khi chúng ảnh hưởng đến khách hàng.
Đáp ứng những thách thức của thị trường: Đáp lại nhận định rằng "cho đến khi có áp lực từ phía cơ quan quản lý, sản phẩm này sẽ được sử dụng nhiều hơn như một cuộc kiểm toán nội bộ", chúng tôi nhận thấy rằng việc tích hợp các cuộc kiểm toán này vào quy trình phát triển sản phẩm của mình giúp xây dựng lòng tin với các khách hàng doanh nghiệp quan tâm đến rủi ro về danh tiếng.
Nguyên tắc cốt lõi: AI phải tăng cường khả năng của con người thay vì thay thế khả năng phán đoán của con người, đặc biệt là đối với các quyết định quan trọng.
Ứng dụng thực tế:
Nghiên cứu tình huống giả định: Trong một công cụ phân tích hợp đồng dựa trên AI, hệ thống sẽ đánh dấu các vấn đề tiềm ẩn và giải thích lý do, nhưng quyết định cuối cùng luôn thuộc về người dùng. Phương pháp tiếp cận hợp tác này sẽ đảm bảo hiệu quả trong khi vẫn giữ được sự đánh giá cần thiết của con người.
.png)
Bất chấp những thách thức của thị trường đã được thảo luận, chúng tôi tin rằng có một cơ sở kinh doanh hấp dẫn cho AI có đạo đức vượt ra ngoài phạm vi tuân thủ quy định thuần túy hoặc quan hệ công chúng:
Mặc dù các quy định cụ thể về AI đạo đức vẫn còn hạn chế, bối cảnh pháp lý đang phát triển nhanh chóng. EU đang đạt được những tiến bộ đáng kể với Đạo luật AI, trong khi Hoa Kỳ đang nghiên cứu các khuôn khổ pháp lý khác nhau. Các công ty áp dụng các hoạt động đạo đức hiện nay sẽ có vị thế tốt hơn khi các yêu cầu pháp lý xuất hiện.
Như một thành viên hội thảo đã lưu ý, việc đưa ra "con dấu chấp thuận" cho AI đạo đức có thể là một "chiêu trò quan hệ công chúng". Trong thời đại nhận thức và mối quan tâm ngày càng tăng của công chúng về AI, các công ty có thể chứng minh được các hoạt động đạo đức sẽ có lợi thế đáng kể trong việc quản lý rủi ro danh tiếng.
Năm trụ cột của chúng tôi không chỉ phục vụ mục đích đạo đức mà còn cải thiện chất lượng tổng thể của sản phẩm. Hệ thống công bằng hơn sẽ phục vụ tốt hơn cho cơ sở khách hàng đa dạng. Minh bạch hơn sẽ xây dựng niềm tin của người dùng. Các biện pháp bảo mật chặt chẽ bảo vệ cả người dùng và công ty.
Mặc dù thị trường đại chúng có thể không gõ cửa bất kỳ công ty nào tự quảng cáo là người dùng AI 100% có đạo đức, nhưng vẫn có một phân khúc khách hàng doanh nghiệp ngày càng tăng với cam kết mạnh mẽ đối với các hoạt động kinh doanh có trách nhiệm. Những khách hàng này chủ động tìm kiếm các nhà cung cấp chia sẻ giá trị của họ và có thể chứng minh các hoạt động đạo đức.
Nhìn về phía trước, chúng tôi dự đoán một số xu hướng có thể chuyển đổi AI có đạo đức từ mối quan tâm hẹp thành hoạt động chính thống:
Khi khuôn khổ pháp lý được mở rộng, các công ty sẽ ngày càng được yêu cầu chứng minh việc tuân thủ các tiêu chuẩn đạo đức khác nhau. Điều này sẽ thúc đẩy nhu cầu về các công cụ hỗ trợ việc tuân thủ.
Các nhà đầu tư, nhân viên và khách hàng đang ngày càng nhận thức rõ hơn và quan tâm hơn đến những tác động đạo đức của AI. Áp lực ngày càng tăng này đang khuyến khích các công ty tìm kiếm các công cụ có thể chứng minh các hoạt động đạo đức.
Khi việc áp dụng AI ngày càng tăng, các sự cố nghiêm trọng liên quan đến thiên vị, quyền riêng tư hoặc các quyết định thuật toán đáng ngờ cũng sẽ gia tăng. Những sự cố này sẽ thúc đẩy nhu cầu về các giải pháp phòng ngừa.
Việc phát triển các tiêu chuẩn chung để đánh giá và truyền đạt tính công bằng, quyền riêng tư và các thuộc tính đạo đức khác của AI sẽ tạo điều kiện thuận lợi cho việc áp dụng các công cụ AI có đạo đức trên khắp các tổ chức.
Như đã nêu bật trong các cuộc thảo luận trong ngành với các ví dụ như DataRobot, tương lai của AI có đạo đức có thể không nằm ở các giải pháp độc lập, mà nằm ở sự tích hợp với các nền tảng MLOps rộng hơn bao gồm giám sát tính công bằng và thiên vị.
Thông thường, đạo đức và đổi mới được mô tả là hai lực lượng đối lập - cái này hạn chế cái kia. Kinh nghiệm của chúng tôi, kết hợp với những hiểu biết sâu sắc từ cộng đồng công nghệ, cho thấy một thực tế tinh tế hơn: mặc dù những cân nhắc về đạo đức thực sự có thể thúc đẩy đổi mới, thúc đẩy chúng ta tìm ra các giải pháp tạo ra giá trị mà không gây hại, nhưng thị trường hiện tại lại đặt ra những trở ngại đáng kể cho việc áp dụng rộng rãi các giải pháp SaaS AI chuyên dụng có đạo đức.
Câu hỏi mà cộng đồng đặt ra - "Tại sao chưa có sản phẩm SaaS AI đạo đức?" - vẫn còn nguyên giá trị. Câu trả lời dường như nằm ở sự kết hợp giữa các định nghĩa về đạo đức theo ngữ cảnh, các động lực kinh tế hạn chế khi không có áp lực pháp lý, những thách thức trong triển khai thực tế và các vấn đề về trách nhiệm pháp lý.
Bất chấp những thách thức này, chúng tôi tin rằng tương lai của AI trong kinh doanh không chỉ nằm ở những gì khả thi về mặt kỹ thuật, mà còn ở những gì mang lại lợi ích một cách có trách nhiệm. Công ty chúng tôi cam kết thúc đẩy tương lai này thông qua đổi mới có đạo đức, tích hợp các cân nhắc về đạo đức vào sản phẩm và quy trình của chúng tôi khi chúng tôi định hướng thực tế của thị trường ngày nay.
Như một diễn giả đã đề xuất, "Có lẽ bạn nên bắt đầu một dự án nếu bạn đang hoạt động trong lĩnh vực này và thấy nhu cầu?" Chúng tôi đã và đang làm điều đó. Chúng tôi mời các nhà đổi mới khác cùng khám phá lĩnh vực mới nổi này—không chỉ như một mệnh lệnh đạo đức, mà còn là một chiến lược kinh doanh tiên tiến trong một hệ sinh thái công nghệ không ngừng phát triển.
.svg)
.svg)
.svg)
.jpeg)
