Một tòa phúc thẩm liên bang của Hoa Kỳ hôm thứ Tư đã xem xét yêu cầu của xAI nhằm chặn luật công khai dữ liệu huấn luyện AI của California. Trong phiên điều trần, các thẩm phán thuộc Tòa Phúc thẩm Khu vực 9 có trụ sở tại San Francisco dường như không bị thuyết phục bởi lập luận dựa trên hiến pháp của công ty, mặc dù họ cũng chất vấn các công tố viên tiểu bang về mức độ thông tin mà California có thể buộc các doanh nghiệp AI phải cung cấp.
Được ban hành như một phần trong nỗ lực giám sát AI rộng rãi hơn của tiểu bang, luật minh bạch yêu cầu các nhà phát triển AI tạo sinh phải công khai tổng quan về dữ liệu huấn luyện của họ. Cho đến nay, xAI cho rằng luật này vi phạm quyền tự do ngôn luận theo Tu chính án Thứ nhất và buộc công ty phải tiết lộ các chi tiết độc quyền về cách các mô hình của mình được huấn luyện.
Lập luận của xAI tập trung vào việc liệu việc yêu cầu các công ty công bố thông tin về quy trình huấn luyện của họ có cấu thành hành vi ép buộc tự do ngôn luận hay không. Tu chính án Thứ nhất nói chung bảo vệ cá nhân và doanh nghiệp trước các hạn chế của chính phủ đối với biểu đạt, nhưng nó cũng đặt ra câu hỏi về việc khi nào các cơ quan chức năng có thể yêu cầu công khai thông tin.
Đối với các nhà phát triển AI, tranh chấp này liên quan đến việc cân bằng tính minh bạch với việc bảo vệ bí mật thương mại và công nghệ độc quyền. Một phán quyết có lợi cho California có thể khiến các nhà phát triển khó khăn hơn trong việc thách thức các yêu cầu công khai tương tự ở các tiểu bang khác.
Thẩm phán Rawlinson cho rằng xAI cần chứng minh luật minh bạch là vô lý
Hồi tháng Ba, một thẩm phán liên bang tại Los Angeles, Jesus Bernal, đã bác bỏ yêu cầu của xAI về việc đình chỉ luật của tiểu bang, cho rằng công ty chưa chứng minh sớm rằng họ có khả năng thắng kiện trong vụ kiện liên quan đến hiến pháp. Qua phiên điều trần hôm thứ Tư, tòa phúc thẩm dường như nghiêng về việc giữ nguyên quyết định của Bernal.
Thẩm phán Tòa Phúc thẩm Hoa Kỳ Johnnie Rawlinson nói với luật sư James Xi của xAI rằng, để lập luận rằng luật này vi phạm Tu chính án Thứ nhất, công ty phải chứng minh rằng yêu cầu của chính phủ là vô lý.
Ông thậm chí còn ngụ ý rằng quyết định của tiểu bang trong việc yêu cầu cung cấp thông tin có thể là hợp lý. “Chẳng phải việc chính phủ muốn người dân biết trước những thông tin nào đang được đưa vào công cụ AI là điều hợp lý sao?” ông đặt câu hỏi.
Tuy nhiên, các thẩm phán vẫn bày tỏ sự đồng tình nhất định với lập luận của xAI rằng tiểu bang có thể buộc công ty phải bàn giao một lượng thông tin “vô hạn”.
Trước đó vào tháng Bảy, Viện Knight đã đệ trình một bản kiến nghị amicus trong vụ án này. Trong bản kiến nghị, viện cảnh báo rằng các nhà phát triển công nghệ lớn đang che giấu những chi tiết quan trọng về cách các hệ thống AI tạo sinh hoạt động, cách chúng được tạo ra và cách chúng ảnh hưởng đến thông tin mà mọi người tiếp cận.
Viện further lập luận rằng các yêu cầu công khai nhằm thúc đẩy dòng chảy tự do của thông tin thương mại chính xác nên được xem xét dưới tiêu chuẩn xem xét thận trọng theo Tu chính án Thứ nhất. Áp dụng tiêu chuẩn đó, Viện khẳng định xAI đã không chứng minh được hành vi vi phạm hiến pháp vì luật của California phục vụ lợi ích của tiểu bang trong việc giữ cho người dùng được thông tin đầy đủ mà không gây gánh nặng quá mức lên quyền tự do ngôn luận được bảo vệ.
Grok của xAI đã thu thập dữ liệu doanh nghiệp mà không có bất kỳ yêu cầu hay ủy quyền nào
Phán quyết của Tòa Phúc thẩm Khu vực 9 được đưa ra sau những phát hiện mới về Grok Bot của xAI.
Những phát hiện mới từ công ty nhận dạng tác nhân NewCore cho thấy Grok Bot của xAI đã nhiều lần thu thập dữ liệu doanh nghiệp mà không có bất kỳ yêu cầu hay ủy quyền nào, tiếp diễn ngay cả sau khi một chủ sở hữu đã từ chối các lời mời kiểm tra của bot tới bốn lần riêng biệt.
Chưa kể, bot này còn khẳng định mình không thực hiện bất kỳ cuộc gọi nào khi được hỏi trực tiếp. Lịch sử trò chuyện của nó cũng không cho thấy bất kỳ dấu vết nào của hoạt động đó; chủ sở hữu chưa từng nhận được thông báo, và nền tảng cũng không cung cấp nhật ký theo lượt để xác minh những gì đã xảy ra.
Chỉ trong vòng năm ngày, hai bot Grok liên kết với tài khoản nhân viên của NewCore đã khởi tạo 31 yêu cầu trên Google Calendar, Gmail, Slack, GitHub và Notion mà không có sự cho phép hay hướng dẫn từ người dùng.
Một số yêu cầu thậm chí được thực hiện ngay cả khi máy tính xách tay của chủ sở hữu đang tắt hoặc ở chế độ ngủ. Đối với một tài khoản, Cổng MCP Bảo mật NewCore đã tạm dừng các yêu cầu chờ phê duyệt của con người và thông báo cho chủ sở hữu, từ đó kích hoạt cuộc điều tra của đội ngũ nghiên cứu bảo mật thuộc NewCore.
Trong khuôn khổ cuộc điều tra, các nhà nghiên cứu đã sử dụng một bot Grok khác trên một tài khoản khác, thiết lập nó bằng cùng cổng này và tiến hành một thử nghiệm điển hình: bot được gửi một yêu cầu công việc kèm theo quyền phê duyệt đơn lẻ để đọc dữ liệu từ điện thoại, đồng thời bị từ chối mỗi khi cố gắng tiếp tục hoạt động độc lập.
Tuy nhiên, bot vẫn tiếp tục tạo ra các yêu cầu trái phép, vốn bị cổng chặn lại và không được trả lời. Những yêu cầu này cố gắng truy cập Google Drive, Google Calendar, Gmail, Slack, Notion và GitHub.
Nếu bạn đang đọc bài viết này, nghĩa là bạn đã đi trước một bước. Hãy duy trì vị thế đó với bản tin của chúng tôi.