Theo dõi từ Động Sát Beating, Viện trưởng Viện Nghiên cứu Quản trị Quốc tế về Trí tuệ Nhân tạo của Đại học Thanh Hoa – Tiến sĩ Tiết Lan, Chủ tịch kiêm Giám đốc Điều hành Viện Hàn lâm Khoa học New York – Nicholas B. Dirks, cùng Giám đốc Điều hành Trung tâm Nghiên cứu Trí tuệ Nhân tạo Tương thích với Con người thuộc Phòng thí nghiệm Nghiên cứu Trí tuệ Nhân tạo của Đại học California, Berkeley – Mark Nitzberg, đã có một cuộc đối thoại bàn tròn tại Hội nghị Thế giới về Trí tuệ Nhân tạo năm 2026, tập trung thảo luận về quản trị các tác nhân AI. Các diễn giả chỉ ra rằng AI đang chuyển từ "hỗ trợ ra quyết định" sang "hành động tự chủ", trở thành tác nhân thay thế con người thực hiện công việc – đây là biểu hiện hoàn toàn mới của vấn đề ủy quyền-đại diện truyền thống trong kỷ nguyên số. Khác với các đại diện con người, AI phải đối mặt với sự không đồng nhất về mục tiêu, và với tư cách là một "hộp đen", không thể chịu trách nhiệm pháp lý; do đó, trách nhiệm giải trình phải được chuyển sang toàn bộ chuỗi thực thi, bao gồm nhà phát triển, nhà triển khai, cơ quan giám sát, v.v.

Các diễn giả đã đạt được sự đồng thuận cao: Những quyết định liên quan đến hậu quả sinh tử, các tình huống không thể sửa chữa khi xảy ra sai sót, và tất cả các vấn đề liên quan đến đạo đức và phán đoán giá trị, tuyệt đối không được giao cho AI chủ đạo. Con người có thể ủy quyền cho AI hành động, nhưng không thể ủy quyền cho AI chịu trách nhiệm; mỗi lần ủy quyền phải có thể thu hồi, mỗi hành động phải có thể truy cứu trách nhiệm, và tốc độ nhượng quyền đại diện không bao giờ được vượt quá tốc độ con người xác minh năng lực của AI.

Về mặt cơ chế an toàn, các diễn giả đề xuất xây dựng AI đáng tin cậy cần đáp ứng ba đặc tính kỹ thuật chính: nền tảng vững chắc, vận hành minh bạch, và có thể kiểm soát trong quá trình sử dụng. Về mặt xây dựng thể chế, cần thiết lập các tiêu chuẩn đánh giá an toàn AI thống nhất toàn cầu, hệ thống kiểm định được công nhận lẫn nhau, và cơ chế chia sẻ dữ liệu sự cố; xác định rõ ranh giới đỏ cho phát triển AI và thiết lập cơ chế giám sát cảnh báo sớm; thúc đẩy an toàn AI trở thành hàng hóa công cộng toàn cầu. Ranh giới của quản trị AI không phải là điểm kết thúc của công nghệ, mà là điểm khởi đầu để con người tái nhận thức về giá trị, trách nhiệm và hướng đi của nền văn minh của chính mình.

---------------------------------

Nhấp vào liên kết gốc bên dưới để tham gia kênh tin tức AI trên Feishu của Động Sát Beating, theo dõi các điểm nóng và tin tức AI toàn cầu 24/7.