Phân tích quan trọng các trường hợp sử dụng LLM trong thế giới thực: Giữa lời hứa và thực tế

Trong bối cảnh cuộc tranh luận về giá trị thực sự của các mô hình ngôn ngữ lớn (LLM) vẫn đang tiếp diễn, việc xem xét một cách nghiêm túc các trường hợp sử dụng thực tế mà các công ty đang triển khai là điều cần thiết. Phân tích này nhằm mục đích xem xét các ứng dụng cụ thể của LLM trong nhiều lĩnh vực khác nhau, đồng thời đánh giá một cách nghiêm túc giá trị thực sự, những hạn chế và tiềm năng của chúng.

‍

Thương mại điện tử và bán lẻ: Tối ưu hóa có mục tiêu hay kỹ thuật quá mức?

Trong ngành bán lẻ và thương mại điện tử, LLM được sử dụng cho nhiều nhiệm vụ khác nhau:

• Trợ lý nội bộ và cải tiến quy trình làm việc : Instacart đã phát triển một trợ lý AI tên là Ava để hỗ trợ các nhóm viết, xem xét và gỡ lỗi mã, cải thiện giao tiếp và xây dựng các công cụ nội bộ. Mặc dù đầy hứa hẹn, vẫn còn nhiều nghi vấn về việc liệu những trợ lý này có mang lại giá trị lớn hơn đáng kể so với các công cụ cộng tác truyền thống và ít phức tạp hơn hay không.
• Kiểm duyệt và Bảo mật Nội dung : Whatnot sử dụng LLM để cải thiện việc kiểm duyệt nội dung đa phương thức, bảo vệ chống gian lận và phát hiện các hành vi bất thường trong đấu giá. Zillow sử dụng LLM để xác định nội dung phân biệt đối xử trong danh sách bất động sản. Những trường hợp này đại diện cho các ứng dụng cụ thể mà LLM có thể mang lại giá trị thực, nhưng đòi hỏi hệ thống xác minh kỹ lưỡng để tránh kết quả dương tính và âm tính giả.
• Trích xuất và phân loại thông tin : OLX đã tạo ra Prosus AI Assistant để xác định vai trò công việc trong quảng cáo, trong khi Walmart phát triển một hệ thống để trích xuất các thuộc tính sản phẩm từ PDF. Những trường hợp này chứng minh tính hữu ích của LLM trong việc tự động hóa các tác vụ lặp đi lặp lại vốn đòi hỏi nhiều lao động thủ công.
• Tạo nội dung sáng tạo : StitchFix kết hợp văn bản được tạo bằng thuật toán với sự giám sát của con người để đơn giản hóa việc tạo tiêu đề quảng cáo và mô tả sản phẩm. Instacart tạo hình ảnh các sản phẩm tạp hóa. Những ứng dụng này đặt ra câu hỏi về tính độc đáo của nội dung được tạo ra và khả năng đồng nhất hóa ngôn ngữ quảng cáo.
• Cải thiện tìm kiếm : Leboncoin, Mercado Libre và Faire sử dụng LLM để cải thiện mức độ liên quan của tìm kiếm, trong khi Amazon sử dụng LLM để hiểu các mối quan hệ thông thường và đưa ra các đề xuất sản phẩm phù hợp hơn. Những trường hợp này đại diện cho một lĩnh vực mà giá trị gia tăng của LLM có tiềm năng đáng kể, nhưng độ phức tạp tính toán và chi phí năng lượng liên quan có thể không biện minh cho việc cải thiện đáng kể so với các thuật toán tìm kiếm hiện có.

Công nghệ tài chính và ngân hàng: Điều hướng giá trị và rủi ro pháp lý

‍

Trong lĩnh vực tài chính, LLM được áp dụng một cách thận trọng do tính chất nhạy cảm của dữ liệu và các yêu cầu quy định nghiêm ngặt:

• Phân loại và gắn thẻ dữ liệu : Grab sử dụng LLM để quản trị dữ liệu, phân loại thực thể, xác định thông tin nhạy cảm và gắn thẻ phù hợp. Trường hợp sử dụng này đặc biệt thú vị vì nó giải quyết một thách thức quan trọng đối với các tổ chức tài chính, nhưng đòi hỏi các cơ chế kiểm soát chặt chẽ để ngăn ngừa phân loại sai.
• Báo cáo Tội phạm Tài chính : SumUp tạo ra các tường thuật có cấu trúc để báo cáo về gian lận tài chính và rửa tiền. Ứng dụng này, mặc dù hứa hẹn giảm thiểu khối lượng công việc thủ công, nhưng lại dấy lên lo ngại về khả năng xử lý đúng đắn các vấn đề pháp lý nhạy cảm mà không cần sự giám sát của con người của các Thạc sĩ Luật (LLM).
• Hỗ trợ truy vấn tài chính : Digits gợi ý các truy vấn liên quan đến giao dịch ngân hàng. Trường hợp sử dụng này minh họa cách các LLM có thể hỗ trợ các chuyên gia mà không cần thay thế họ, một phương pháp có tiềm năng bền vững hơn so với tự động hóa hoàn toàn .

Công nghệ: Tự động hóa và Hỗ trợ Kỹ thuật

‍

Trong ngành công nghệ, LLM được sử dụng rộng rãi để cải thiện quy trình làm việc nội bộ và trải nghiệm của người dùng:

• Quản lý Sự cố và Bảo mật : Theo security.googleblog.com, Google sử dụng LLM để cung cấp tóm tắt sự cố bảo mật và quyền riêng tư cho nhiều đối tượng khác nhau, bao gồm giám đốc điều hành , quản lý và các nhóm đối tác. Cách tiếp cận này giúp tiết kiệm thời gian cho quản lý và cải thiện chất lượng tóm tắt sự cố. Microsoft sử dụng LLM để chẩn đoán sự cố sản xuất, trong khi Meta đã phát triển một hệ thống phân tích nguyên nhân gốc rễ được hỗ trợ bởi AI. Incident.io tạo tóm tắt sự cố phần mềm. Những trường hợp này chứng minh giá trị của LLM trong việc đẩy nhanh các quy trình quan trọng, nhưng đặt ra câu hỏi về độ tin cậy của chúng trong các tình huống rủi ro cao.
• Hỗ trợ lập trình : GitHub Copilot cung cấp các đề xuất mã và tính năng tự động hoàn thành, trong khi Replit đã phát triển LLM để sửa lỗi mã. NVIDIA sử dụng LLM để phát hiện lỗ hổng phần mềm. Những công cụ này giúp tăng năng suất của nhà phát triển, nhưng chúng cũng có thể lan truyền các mẫu mã kém hiệu quả hoặc không an toàn nếu sử dụng thiếu cân nhắc.
• Truy vấn dữ liệu và tìm kiếm nội bộ : Honeycomb giúp người dùng viết truy vấn dữ liệu, còn Pinterest chuyển đổi truy vấn của người dùng thành truy vấn SQL. Những trường hợp này minh họa cách các LLM có thể dân chủ hóa việc truy cập dữ liệu, nhưng chúng cũng có thể dẫn đến những diễn giải không chính xác hoặc kém hiệu quả nếu không hiểu rõ cấu trúc dữ liệu cơ bản.
• Phân loại và quản lý yêu cầu hỗ trợ : GoDaddy phân loại các yêu cầu hỗ trợ để cải thiện trải nghiệm của khách hàng. Dropbox tóm tắt và trả lời các câu hỏi liên quan đến tệp. Những trường hợp này chứng minh tiềm năng của LLM trong việc cải thiện dịch vụ khách hàng, nhưng cũng đặt ra lo ngại về chất lượng và độ chính xác của các phản hồi được tạo ra.

Giao hàng và tính di động: Hiệu quả hoạt động và khả năng tùy chỉnh

‍

Trong ngành giao hàng và di chuyển, LLM được sử dụng để cải thiện hiệu quả hoạt động và trải nghiệm của người dùng:

• Kiểm tra và Hỗ trợ Kỹ thuật : Uber sử dụng LLM để kiểm tra ứng dụng di động với DragonCrawl và đã xây dựng Genie, một trợ lý AI hỗ trợ trả lời các câu hỏi hỗ trợ. Các công cụ này có thể giảm đáng kể thời gian kiểm tra và hỗ trợ, nhưng chúng có thể không nắm bắt được các vấn đề phức tạp hoặc các trường hợp ngoại lệ như một người kiểm tra thực tế.
• Trích xuất và Đối chiếu Thông tin Sản phẩm : DoorDash trích xuất thông tin sản phẩm từ dữ liệu SKU, và Delivery Hero đối chiếu kho hàng của mình với sản phẩm của đối thủ cạnh tranh. Những trường hợp này minh họa cách LLM có thể tự động hóa các quy trình đối chiếu dữ liệu phức tạp, nhưng chúng có thể gây ra sai lệch hoặc diễn giải sai nếu không có các biện pháp kiểm soát đầy đủ.
• Tìm kiếm Hội thoại và Mức độ Liên quan : Picnic cải thiện mức độ liên quan của tìm kiếm đối với danh sách sản phẩm, trong khi Swiggy đã triển khai tìm kiếm thần kinh để giúp người dùng khám phá thực phẩm và hàng tạp hóa một cách trực quan. Những trường hợp này minh họa cách LLM có thể làm cho giao diện tìm kiếm trực quan hơn, nhưng chúng cũng có thể tạo ra "bong bóng lọc" hạn chế việc khám phá sản phẩm mới.
• Tự động hóa Hỗ trợ : DoorDash đã xây dựng một chatbot hỗ trợ dựa trên LLM, thu thập thông tin từ cơ sở kiến thức của mình để tạo ra các phản hồi giúp giải quyết vấn đề nhanh chóng. Phương pháp này có thể cải thiện thời gian phản hồi, nhưng đòi hỏi các biện pháp bảo vệ mạnh mẽ để xử lý các tình huống phức tạp hoặc nhạy cảm.

Mạng xã hội, Truyền thông và B2C: Nội dung và Tương tác được Cá nhân hóa

‍

Trong ngành dịch vụ B2C và truyền thông xã hội, LLM được sử dụng để tạo nội dung cá nhân hóa và cải thiện tương tác:

• Phân tích và Kiểm duyệt Nội dung : Yelp đã cập nhật hệ thống kiểm duyệt nội dung với LLM để phát hiện các mối đe dọa, quấy rối, nội dung tục tĩu, công kích cá nhân hoặc ngôn từ kích động thù địch. LinkedIn phân tích nhiều nội dung khác nhau trên nền tảng để trích xuất thông tin về các kỹ năng. Những trường hợp này chứng minh tiềm năng của LLM trong việc cải thiện chất lượng nội dung, nhưng cũng dấy lên lo ngại về kiểm duyệt và khả năng hạn chế quyền tự do ngôn luận.
• Tạo nội dung giáo dục và tiếp thị : Duolingo sử dụng LLM để giúp các nhà thiết kế tạo ra các bài tập phù hợp, trong khi Nextdoor sử dụng LLM để tạo tiêu đề email hấp dẫn. Những ứng dụng này có thể tăng hiệu quả, nhưng cũng có thể dẫn đến nội dung quá chuẩn mực.
• Biên dịch và Giao tiếp Đa ngôn ngữ : Roblox tận dụng mô hình đa ngôn ngữ tùy chỉnh để cho phép người dùng giao tiếp liền mạch bằng ngôn ngữ mẹ đẻ của họ. Ứng dụng này chứng minh tiềm năng của LLM trong việc vượt qua rào cản ngôn ngữ, nhưng có thể đưa những sắc thái văn hóa không chính xác vào bản dịch.
• Tương tác với phương tiện truyền thông : Vimeo cho phép người dùng tham gia trò chuyện với video thông qua hệ thống Hỏi & Đáp dựa trên RAG, có thể tóm tắt nội dung video, liên kết đến các khoảnh khắc quan trọng và gợi ý các câu hỏi tiếp theo. Ứng dụng này chứng minh cách các chương trình Thạc sĩ Luật (LLM) có thể thay đổi cách chúng ta tương tác với phương tiện truyền thông, nhưng cũng đặt ra câu hỏi về tính trung thực của các diễn giải được tạo ra.

Đánh giá quan trọng: Giá trị thực tế so với việc chạy theo xu hướng

Như Chitra Sundaram , giám đốc thực hành quản lý dữ liệu tại Cleartelligence, Inc., chỉ ra, "LLM là những kẻ ngốn tài nguyên. Việc đào tạo và vận hành các mô hình này đòi hỏi sức mạnh tính toán khổng lồ, dẫn đến lượng khí thải carbon đáng kể. CNTT bền vững là về việc tối ưu hóa việc sử dụng tài nguyên, giảm thiểu lãng phí và lựa chọn giải pháp phù hợp." Nhận xét này đặc biệt có liên quan khi phân tích các trường hợp sử dụng được trình bày.

‍

Khi phân tích các trường hợp sử dụng này, một số cân nhắc quan trọng xuất hiện:

1. Giá trị gia tăng so với độ phức tạp

‍

Nhiều ứng dụng LLM cung cấp những cải tiến gia tăng so với các giải pháp hiện có, nhưng lại có chi phí tính toán, năng lượng và triển khai cao hơn đáng kể. Như Chitra Sundaram đã nói, "Sử dụng LLM để tính toán trung bình đơn giản cũng giống như dùng bazooka để bắn ruồi" (paste-2.txt). Điều quan trọng là phải đánh giá xem giá trị gia tăng có xứng đáng với sự phức tạp này hay không, đặc biệt khi xem xét:

• Nhu cầu về hệ thống giám sát mạnh mẽ
• Chi phí năng lượng và tác động môi trường
• Sự phức tạp của việc bảo trì và cập nhật
• Các yêu cầu về kỹ năng chuyên môn

2. Sự phụ thuộc vào sự giám sát của con người

‍

Hầu hết các trường hợp sử dụng thành công đều áp dụng phương pháp "con người trong vòng lặp", trong đó LLM hỗ trợ chứ không thay thế hoàn toàn sự can thiệp của con người. Điều này cho thấy rằng:

• Tự động hóa hoàn toàn thông qua LLM vẫn còn nhiều vấn đề
• Giá trị chính là tăng cường năng lực của con người chứ không phải thay thế chúng.
• Hiệu quả phụ thuộc vào chất lượng tương tác giữa con người và máy móc

3. Tính đặc thù của miền so với các ứng dụng chung

‍

Các trường hợp sử dụng hấp dẫn nhất là những trường hợp mà LLM được thiết kế riêng và tối ưu hóa cho các lĩnh vực cụ thể, với kiến ​​thức về lĩnh vực được nhúng thông qua:

• Tinh chỉnh dữ liệu cụ thể của ngành
• Tích hợp với các hệ thống và nguồn kiến thức hiện có
• Lan can và các ràng buộc theo ngữ cảnh cụ thể

4. Tích hợp với các công nghệ hiện có

Những trường hợp hiệu quả nhất không sử dụng LLM một cách riêng lẻ mà kết hợp chúng với:

• Hệ thống lưu trữ và phục hồi dữ liệu (RAG)
• Các thuật toán chuyên biệt và quy trình làm việc hiện có
• Cơ chế xác minh và kiểm soát

Như trường hợp sử dụng của Google nhấn mạnh, việc tích hợp LLM vào quy trình xử lý sự cố bảo mật và quyền riêng tư cho phép "tăng tốc phản ứng sự cố bằng AI tạo ra ", với các bản tóm tắt được tạo ra phù hợp với nhiều đối tượng khác nhau, đảm bảo rằng thông tin có liên quan đến đúng người theo định dạng hữu ích nhất.

‍

Kết luận: Một cách tiếp cận thực dụng đối với LLM

Chitra Sundaram đưa ra một góc nhìn sâu sắc khi bà phát biểu: "Con đường dẫn đến phân tích bền vững là lựa chọn công cụ phù hợp cho công việc, chứ không chỉ chạy theo xu hướng mới nhất. Đó là đầu tư vào các nhà phân tích lành nghề và quản trị dữ liệu mạnh mẽ. Đó là việc đặt tính bền vững lên hàng đầu."

‍

Phân tích các trường hợp sử dụng thực tế này khẳng định rằng LLM không phải là giải pháp thần kỳ, mà là những công cụ mạnh mẽ, khi được áp dụng một cách chiến lược vào các vấn đề cụ thể, có thể mang lại giá trị đáng kể. Các tổ chức nên:

1. Xác định các vấn đề cụ thể mà xử lý ngôn ngữ tự nhiên mang lại lợi thế đáng kể so với các phương pháp truyền thống
2. Bắt đầu với các dự án thí điểm có thể chứng minh giá trị một cách nhanh chóng và có thể đo lường được
3. Tích hợp LLM với các hệ thống hiện có thay vì thay thế hoàn toàn quy trình làm việc
4. Duy trì cơ chế giám sát của con người , đặc biệt là đối với các ứng dụng quan trọng
5. Đánh giá một cách có hệ thống tỷ lệ chi phí-lợi ích , không chỉ xem xét cải thiện hiệu suất mà còn cả chi phí năng lượng, bảo trì và nâng cấp

Các công ty phát triển mạnh trong kỷ nguyên LLM không nhất thiết là những công ty áp dụng chúng rộng rãi nhất mà là những công ty áp dụng chúng một cách chiến lược nhất, cân bằng giữa đổi mới và thực dụng, đồng thời luôn chú trọng đến giá trị thực sự tạo ra ngoài sự cường điệu.

‍