Trước khi làm vậy, bạn nên kiểm tra gì?

Trước khi dán một tài liệu công ty bảo mật vào chatbot, việc kiểm tra có trách nhiệm là xem dịch vụ đó có mặc định huấn luyện trên dữ liệu người dùng nhập vào hay không và công ty bạn có chính sách quản lý việc sử dụng công cụ AI hay không — nhiều gói miễn phí dành cho người tiêu dùng sử dụng văn bản được gửi để cải thiện mô hình của họ trừ khi bạn chủ động từ chối, trong khi các gói doanh nghiệp hoặc dành cho tổ chức thường loại trừ dữ liệu khỏi việc huấn luyện.

Sở thích phông chữ và căn chỉnh văn bản chẳng liên quan gì đến quyền riêng tư dữ liệu hay tính bảo mật — chúng là những đáp án gây nhiễu được thiết kế để nghe như những mục kiểm tra hợp lý trong khi về mặt kỹ thuật vô nghĩa.

Phần lớn cái gọi là sự cố 'AI ngầm' bên trong các công ty không hề bắt nguồn từ ý định xấu; chúng bắt nguồn từ việc một nhân viên đơn giản dán tài liệu nhạy cảm vào một công cụ tiện lợi mà không dừng lại để kiểm tra chính xác câu hỏi về huấn luyện và chính sách này trước.