Khi AI được ứng dụng ngày một rộng rãi, tỷ lệ sai sót sẽ tăng theo.

Theo Báo cáo ứng dụng công nghệ trong kinh doanh 2024 khu vực Châu Á - Thái Bình Dương của CPA Australia, tỉ lệ ứng dụng công nghệ trí tuệ nhân tạo (AI) và các chiến lược số khác của các doanh nghiệp Việt Nam cao hơn so với những doanh nghiệp ở các thị trường khác trong khu vực. Số liệu cho thấy có tới 74% doanh nghiệp được khảo sát tại Việt Nam đã và đang áp dụng chiến lược số vào hoạt động kinh doanh của mình.

Tuy nhiên, câu chuyện mới xảy ra tuần trước tại startup AI Anysphere sẽ là một bài học cảnh tỉnh, nhắc nhở các doanh nghiệp Việt cần cẩn trọng hơn trong quá trình ứng dụng AI vào hoạt động kinh doanh.

Startup AI Anysphere đã có hai tháng thăng hoa nhờ sự bùng nổ của trợ lý AI hỗ trợ lập trình có tên Cursor. Từng được OpenAI cân nhắc mua lại và đang đàm phán gọi vốn với mức định giá gần 10 tỷ USD, công ty đã đạt doanh thu hàng năm 100 triệu USD kể từ khi Cursor ra mắt năm 2023. Thế nhưng, không viên ngọc nào hoàn hảo cả.

Cuối tuần qua, Fortune đưa tin về việc hệ thống hỗ trợ khách hàng bằng AI đã “nổi loạn”, gây ra làn sóng hủy đăng ký và trở thành bài học cảnh báo cho các startup khác đang đặt cược lớn vào tự động hóa.

Vụ việc bắt đầu khi một người dùng Cursor đăng tải trên Hacker News và Reddit rằng, họ liên tục bị đăng xuất khỏi tài khoản khi chuyển đổi giữa các thiết bị. Khi liên hệ bộ phận hỗ trợ, họ nhận được email từ một nhân vật tên “Sam”, giải thích rằng đây là “hành vi bình thường” theo chính sách đăng nhập mới.

Thực tế, chính sách đó không tồn tại. Email tự động kia do chatbot gửi đi, và nội dung về “chính sách mới” đã do “ảo giác AI” tạo ra. Nói cách khác, AI đã bịa chuyện để trấn an người dùng.

Thông tin nhanh chóng lan rộng trong cộng đồng lập trình viên, khiến nhiều người bức xúc vì công ty thiếu minh bạch, đồng thời hủy đăng ký dịch vụ. Đồng sáng lập Michael Truell buộc phải đăng bài trên Reddit thừa nhận “phản hồi sai từ chatbot AI” và cho biết công ty đang điều tra lỗi gây đăng xuất. “Chúng tôi xin lỗi vì sự nhầm lẫn này”, Truell viết. Tuy nhiên, người dùng không chấp nhận lời xin lỗi bị coi là muộn màng. 

Các chuyên gia công nghệ trên LinkedIn đã nhanh chóng cảnh báo các startup khác. “Cursor vừa vướng vào mớ bòng bong vì đã không thông báo cho người dùng rằng nhân viên hỗ trợ tên Sam thực chất là một chatbot AI đang 'ảo giác'”, Cassie Kozyrko, một cựu chuyên gia từng công tác tại Google, viết trên LinkedIn. 

“Tình huống này hoàn toàn có thể tránh được nếu các lãnh đạo hiểu rằng: (1) AI có thể sai, (2) AI không thể tự chịu trách nhiệm, và (3) người dùng rất ghét bị bị lừa bởi một cỗ máy đóng giả con người”.

Robot hỗ trợ của SoftBan Robotics phát triển - Ảnh: SoftBan Robotics.

Dù chăm sóc khách hàng là một trong những ứng dụng hàng đầu của AI kể từ khi ChatGPT ra mắt vào 2022, nhưng nó cũng tiềm ẩn nhiều rủi ro. Ông Sanketh Balakrishna, quản lý kỹ thuật tại Datadog chia sẻ với Fortune: “Tôi sẽ rất thận trọng nếu chỉ phụ thuộc vào chatbot AI để giải quyết vấn đề của người dùng”.

“Nếu tôi biết rằng chỉ có AI hỗ trợ và biết nó đôi khi mắc lỗi, điều đó sẽ làm suy giảm niềm tin và ảnh hưởng đến hiệu năng giải quyết vấn đề”, ông nói.

Amiran Shachar, CEO của công ty bảo mật Upwind, nhấn mạnh rằng đây không phải lần đầu AI "ảo giác" gây rắc rối. Chatbot của Air Canada từng đưa ra chính sách hoàn tiền không có thật, trong khi Klarna buộc phải rút lại kế hoạch thay thế hoàn toàn đội ngũ chăm sóc khách hàng bằng AI sau nhiều phản ánh tiêu cực.

“Về bản chất, AI không hiểu người dùng hoặc cách con người vận hành”, ông nói. “Nếu không được kiểm soát đúng cách, AI sẽ tự tin ‘lấp chỗ trống’ bằng thông tin không có thật”. Đối với những khách hàng lập trình viên như người dùng Cursor, thì “không có chỗ cho những lời giải thích cẩu thả”.

Doanh nghiệp cần cẩn trọng trước hiện tượng "ảo giác AI - Hình minh họa.

Dù hiện tượng "ảo giác" mới chỉ xảy ra ở chatbot, các chuyên gia cảnh báo: khi các doanh nghiệp bắt đầu triển khai AI tự động, hậu quả có thể nghiêm trọng hơn nhiều, đặc biệt trong các lĩnh vực nhạy cảm như y tế, tài chính hay pháp lý.

Không chỉ trong lĩnh vực hỗ trợ khách hàng, AI tạo sinh (Gen AI) hiện đang được ứng dụng trong việc lên kế hoạch marketing, đóng vai nhân viên bán hàng hoặc viết nội dung. Những công việc này đều tiềm ẩn nguy cơ từ ảo giác AI: những thông tin do trí tuệ nhân tạo tạo ra có thể nghe rất hợp lý nhưng lại hoàn toàn vô giá trị, thậm chí những thông tin sai lệch còn có thể gây ra những hậu quả khôn lường.

Báo cáo ứng dụng công nghệ trong kinh doanh 2024 khu vực Châu Á - Thái Bình Dương cũng cho thấy gần 8 trên 10 doanh nghiệp Việt Nam cho biết họ đã sử dụng công nghệ AI trong 12 tháng qua, tiếp tục cao hơn mức trung bình của khu vực là 69%. Nếu không cẩn trọng trong ứng dụng trí tuệ nhân tạo, doanh nghiệp Việt sẽ đứng trước những rủi ro lớn.