Trong khi nhiều công ty AI thừa nhận rằng, người dùng sẽ phải sống chung với hiện tượng "Ảo giác AI", nhiều công ty khác đang nhìn thấy cơ hội kinh doanh từ lĩnh vực này.

Trong khi cả thế giới đang háo hức chạy đua áp dụng trí tuệ nhân tạo (AI) vào mọi lĩnh vực, một thị trường ngách mới đang âm thầm hình thành: bảo hiểm cho những sai lầm của AI. Các công ty bảo hiểm tại Lloyd's of London - trung tâm bảo hiểm danh tiếng thế giới - vừa cho ra mắt sản phẩm bảo vệ doanh nghiệp khỏi thiệt hại tài chính do AI gây ra, đặc biệt là hiện tượng "hallucination" (ảo giác) của các chatbot thông minh.

Sản phẩm mới này do Armilla, một startup được hỗ trợ bởi quỹ đầu tư Y Combinator phát triển, nhắm vào nhu cầu ngày càng tăng của các doanh nghiệp đang lo lắng về rủi ro pháp lý từ công nghệ AI. Cụ thể, bảo hiểm sẽ chi trả cho các khoản kiện tụng nếu công ty bị khách hàng hoặc bên thứ ba kiện vì bị tổn hại do công cụ AI hoạt động kém hiệu quả. Được bảo lãnh bởi nhiều công ty bảo hiểm tại Lloyd's, hợp đồng bảo hiểm này chi trả các chi phí bồi thường thiệt hại và phí pháp lý liên quan.

Sự ra đời của sản phẩm bảo hiểm này không phải không có lý do. Gần đây, nhiều trường hợp AI "phát ngôn bừa" đã gây ra những tình huống đáng xấu hổ và tốn kém cho các doanh nghiệp. Điển hình như Virgin Money phải công khai xin lỗi vào tháng 1 sau khi chatbot AI của họ quở trách khách hàng vì sử dụng từ "virgin" - chính là tên của công ty.

Trong một trường hợp khác, tập đoàn chuyển phát DPD buộc phải vô hiệu hóa một phần chatbot dịch vụ khách hàng sau khi nó chửi thề khách hàng và mỉa mai gọi chính chủ sở hữu là "công ty dịch vụ giao hàng tồi tệ nhất thế giới". Nghiêm trọng hơn, một tòa án năm ngoái đã buộc Air Canada phải tôn trọng mức giảm giá mà chatbot dịch vụ khách hàng của hãng đã tự bịa ra.

Theo Armilla, khoản lỗ từ việc bán vé với giá thấp hơn của Air Canada lẽ ra đã được chi trả bởi chính sách bảo hiểm của họ, nếu chatbot của Air Canada bị xác định là hoạt động kém hiệu quả hơn so với kỳ vọng. Đây chính là điểm khác biệt của sản phẩm bảo hiểm mới này so với các hợp đồng bảo hiểm công nghệ thông thường.

Karthik Ramakrishnan, Giám đốc điều hành của Armilla, cho biết sản phẩm mới này có thể khuyến khích nhiều doanh nghiệp áp dụng AI hơn, vì nhiều công ty hiện đang e ngại rằng các công cụ như chatbot sẽ gặp trục trặc. "Chúng tôi đánh giá mô hình AI, tạo điều kiện thuận lợi cho xác suất xuống cấp của nó, và sau đó bồi thường nếu mô hình xuống cấp," Ramakrishnan giải thích.

Trong khi một số công ty bảo hiểm đã bao gồm tổn thất liên quan đến AI trong các hợp đồng bảo hiểm lỗi và thiếu sót công nghệ chung, những hợp đồng này thường chỉ bao gồm giới hạn thấp đối với các khoản bồi thường. Preet Gill, một nhà môi giới tại Lockton, công ty cung cấp sản phẩm của Armilla cho khách hàng, cho biết một hợp đồng thông thường có thể bao gồm tới 5 triệu USD cho các tổn thất nhưng có thể chỉ quy định giới hạn phụ 25.000 USD cho các trách nhiệm pháp lý liên quan đến AI.

Điều đáng chú ý là một lỗi do công cụ AI gây ra sẽ không tự động kích hoạt khoản bồi thường theo hợp đồng của Armilla. Thay vào đó, bảo hiểm sẽ chỉ được áp dụng nếu công ty bảo hiểm đánh giá rằng AI đã hoạt động kém hiệu quả hơn so với kỳ vọng ban đầu. Ví dụ, bảo hiểm của Armilla có thể chi trả nếu một chatbot chỉ cung cấp thông tin chính xác 85% thời gian, sau khi ban đầu đạt được tỷ lệ 95%.

Tom Graham, người đứng đầu quan hệ đối tác tại Chaucer, một công ty bảo hiểm tại Lloyd's đang bảo lãnh cho các hợp đồng do Armilla bán, nhấn mạnh rằng công ty của ông sẽ không ký hợp đồng bảo hiểm cho các hệ thống AI mà họ đánh giá là quá dễ bị hỏng. "Chúng tôi sẽ chọn lọc, giống như bất kỳ công ty bảo hiểm nào khác," ông nói.

Hiện tượng "hallucination" của AI đang trở thành mối quan tâm ngày càng lớn trong ngành công nghệ. Thuật ngữ này được các nhà khoa học máy tính sử dụng để mô tả hiện tượng khi thuật toán tạo ra thông tin có vẻ đáng tin cậy nhưng thực tế lại sai hoặc gây hiểu lầm. Trong khi một số lỗi tương đối vô hại - như chatbot đưa ra câu trả lời sai - thì những lỗi khác có thể có hậu quả nghiêm trọng, đặc biệt trong các lĩnh vực nhạy cảm như vụ kiện pháp lý hoặc quyết định bảo hiểm y tế.

Đáng lo ngại hơn, mặc dù các công ty như OpenAI và Google đã cải tiến để giảm tỷ lệ ảo giác, vấn đề này lại có xu hướng trầm trọng hơn với các mô hình lý luận mới. Đánh giá nội bộ của OpenAI cho thấy mô hình tiên tiến nhất của họ, o3, tạo ra ảo giác 33% thời gian trên chuẩn PersonQA (kiểm tra khả năng trả lời câu hỏi về nhân vật công khai) - cao gấp đôi so với mô hình o1 trước đó.

Giống như các mô hình AI, thị trường bảo hiểm cũng đang thích ứng và phát triển. Sự xuất hiện của các sản phẩm bảo hiểm cho AI là minh chứng cho thực tế rằng công nghệ này, dù mạnh mẽ và hứa hẹn, vẫn còn nhiều rủi ro và bất trắc. Trong khi các doanh nghiệp tiếp tục đầu tư vào công nghệ AI để tăng hiệu quả và cạnh tranh, các công ty bảo hiểm đang nhanh chóng nắm bắt cơ hội kinh doanh từ chính những rủi ro này.