Chỉ trong vài năm ngắn ngủi, AI đã trở thành một phần không thể thiếu trong hoạt động kinh doanh hàng ngày, nhiều công ty đang nhanh chóng chuyển sang tự động hóa quy trình và dựa vào các hệ thống hỗ trợ bởi AI. Nhưng theo Georg Meyer, một chuyên gia chiến lược và hệ thống, tốc độ và sự tiện lợi có thể đi kèm với cái giá phải trả, đặc biệt là khi doanh nghiệp mất khả năng kiểm soát cách thức hoạt động thực sự của các hệ thống quan trọng nhất.
Meyer cảnh báo rằng một trong những rủi ro lớn nhất là cảm giác hiểu biết sai lệch. "Các công ty có thể nghĩ rằng họ biết chuyện gì đang xảy ra vì những lời nhắc họ đã đưa ra," ông giải thích, "nhưng họ không có khả năng kiểm soát thực sự về những gì xảy ra bên trong hộp đen đó."
Các hệ thống AI hiện đại, đặc biệt là các mô hình ngôn ngữ lớn, rất mạnh mẽ nhưng khó kiểm tra toàn diện. Các quy trình nội bộ của chúng không phải lúc nào cũng minh bạch, và kết quả đầu ra có thể thay đổi do tính ngẫu nhiên được tích hợp sẵn. Điều này tạo ra những thách thức về tính nhất quán và độ tin cậy, đặc biệt khi AI được sử dụng trong các chức năng kinh doanh cốt lõi. "Có những rủi ro ẩn giấu về khả năng tái tạo và độ tin cậy," Meyer nói, "có thể gây thảm họa khi chúng ảnh hưởng đến trung tâm của công ty."
Đối với Meyer, giải pháp không phải là tránh AI, mà là đảm bảo rằng sự hiểu biết của con người vẫn là trung tâm. Doanh nghiệp vẫn cần những người biết cách hệ thống hoạt động, ngay cả khi các hệ thống đó được hỗ trợ bởi AI.
Lợi Ích Ngắn Hạn, Rủi Ro Dài Hạn
Một mối quan ngại khác mà Meyer nhấn mạnh là tác động lâu dài của AI đối với chuyên môn trong các tổ chức. Mặc dù AI có thể tăng tốc đáng kể quy trình làm việc và giúp biến kiến thức thành hành động, nhưng việc phụ thuộc quá mức vào nó có thể đi kèm với những hậu quả ngoài ý muốn.
"Cả việc phụ thuộc quá mức và không đủ đều có thể gây rủi ro," Meyer nói. "AI có thể giảm thời gian cần thiết để áp dụng chuyên môn, nhưng nó đặt ra một câu hỏi quan trọng: làm thế nào để chúng ta đào tạo thế hệ chuyên gia tiếp theo nếu họ không bao giờ phát triển những kiến thức nền tảng?"
Trong ngắn hạn, AI có thể làm cho các nhóm làm việc hiệu quả hơn. Nhưng nếu nhân viên bắt đầu phụ thuộc vào nó cho tư duy cốt lõi và giải quyết vấn đề, doanh nghiệp có nguy cơ mất đi chuyên môn cần thiết để xử lý các tình huống phức tạp, bất ngờ hoặc cần sự chạm tay của con người. Meyer tin rằng cả công ty và nhà giáo dục đều cần có chủ đích trong việc duy trì kiến thức nền tảng, đặc biệt cho các tình huống mà AI không thể được dựa vào.
Trách Nhiệm Vẫn Thuộc Về Con Người
Có lẽ vấn đề quan trọng nhất mà Meyer đặt ra là trách nhiệm. Khi các hệ thống AI đảm nhận nhiều trách nhiệm hơn, một số tổ chức có thể bị cám dỗ đổ lỗi khi mọi thứ không suôn sẻ. Meyer khẳng định rõ ràng rằng đây không phải là cách tiếp cận khả thi.
"Trách nhiệm, và đối tác pháp lý của nó là nghĩa vụ pháp lý, về cơ bản gắn liền với con người," ông nói. "Bạn không thể rửa tay mình khỏi một kết quả tồi tệ bằng cách nói 'AI đã làm điều đó.'"
Ông chỉ ra rằng nhiều công ty đang cố gắng điều hướng khu vực xám này. Các nhà cung cấp AI thường bao gồm các tuyên bố từ chối trách nhiệm rằng hệ thống của họ có thể mắc lỗi, trong khi các ngành như ô tô quảng bá các tính năng "tự lái" nhưng vẫn giữ người lái xe chịu trách nhiệm. Tuy nhiên, Meyer cho rằng nếu các hệ thống thực sự tự động, trách nhiệm phải chuyển sang những người thiết kế và triển khai chúng.
Điều này áp dụng ngay cả trong các trường hợp sử dụng nhỏ hơn, hàng ngày. Ví dụ, các doanh nghiệp sử dụng AI để xây dựng ứng dụng xử lý dữ liệu nhạy cảm không thể cho rằng công nghệ sẽ quản lý bảo mật một cách chính xác. "AI không được giao phó dữ liệu," Meyer nói. "Công ty mới là người được giao."
