Tính năng Siri Recap của Apple và thách thức quản trị từ AI môi trường

Vào ngày 9 tháng 9, Apple đã công bố tính năng mới mang tên Siri Recap dành cho Apple Watch, dự kiến ra mắt bản thử nghiệm (beta) vào cuối năm nay. Tính năng này cho phép thiết bị tự động lắng nghe, ghi chép và sử dụng hệ thống Apple Intelligence để tạo ra bản tóm tắt cùng các ý chính của cuộc hội thoại trong nền. Người dùng có thể kích hoạt thủ công hoặc thiết lập tự động theo thời gian và địa điểm, ví dụ như chỉ hoạt động khi ở nơi làm việc. Sự xuất hiện của Siri Recap đánh dấu bước chuyển dịch lớn sang công nghệ "AI môi trường" (ambient AI) - những công nghệ tự động cảm nhận và phân tích thế giới xung quanh mà không cần thao tác chủ động của người dùng hay thông báo rõ ràng trên màn hình.

Mặc dù Apple đã xây dựng các biện pháp bảo vệ quyền riêng tư mạnh mẽ cho Siri Recap—bao gồm việc xử lý âm thanh thô trực tiếp trên phần cứng bảo mật rồi xóa ngay sau đó, không xác định danh tính người nói và không cho phép Apple truy cập dữ liệu gửi đến đám mây Private Cloud Compute—thiết bị này vẫn đối mặt với các rào cản pháp lý về quyền riêng tư. Các mô hình tuân thủ hiện nay thường giả định có một điểm thu thập thông tin rõ ràng như thông báo trên trang web hay ứng dụng. Với AI môi trường, một người đối thoại có thể không hề biết cuộc nói chuyện của họ đang bị ghi lại và tóm tắt, từ đó dẫn đến nguy cơ vi phạm các luật về nghe lén hoặc can thiệp thông tin, đặc biệt là tại các bang yêu cầu sự đồng ý của tất cả các bên như California và Washington.

Bên cạnh đó, Siri Recap và các tính năng AI môi trường tích hợp trên thiết bị cá nhân của nhân viên đang tạo ra một kẽ hở lớn trong quản trị doanh nghiệp. Thông thường, các công ty kiểm soát rủi ro AI thông qua quy trình mua sắm, rà soát pháp lý và ký kết thỏa thuận bảo mật với nhà cung cấp phần mềm. Tuy nhiên, một tính năng AI tích hợp sẵn trên thiết bị cá nhân có thể đi vào phòng làm việc mà không cần qua bất kỳ chốt chặn kiểm soát nào. Điều này tạo ra các luồng dữ liệu mà doanh nghiệp chưa từng lường trước trong các chính sách bảo mật thông tin hay quy chế lao động.

Để giải quyết rủi ro này, các chuyên gia khuyến nghị doanh nghiệp không nên chỉ quản lý danh sách ứng dụng được phê duyệt mà cần tập trung vào năng lực công nghệ và bối cảnh sử dụng. Doanh nghiệp cần thiết lập tiêu chuẩn rõ ràng về sự đồng ý của các bên tham gia đối thoại, xác định rõ các bối cảnh nhạy cảm nghiêm cấm sử dụng AI môi trường (như các cuộc họp nhân sự, thảo luận pháp lý bí mật hoặc đàm phán sáp nhập) và đưa ra quy định kiểm soát việc lưu trữ và sử dụng các bản tóm tắt do AI tạo ra, vì chúng hoàn toàn có thể trở thành hồ sơ kỹ thuật số bị yêu cầu cung cấp trước tòa.