Bộ An ninh Nội địa Hoa Kỳ (DHS) đã tranh thủ một loạt các nhà lãnh đạo ngành AI để thành lập Ban An toàn và An ninh Trí tuệ Nhân tạo, cơ quan này công bố vào thứ Sáu.
DHS cho biết cơ quan mới sẽ đóng một vai trò quan trọng trong việc khai thác trí tuệ nhân tạo để bảo vệ cơ sở hạ tầng quan trọng của Hoa Kỳ và giảm thiểu các mối đe dọa do AI cung cấp.
Bộ trưởng An ninh Nội địa Alejandro Mayorkas cho biết: “Trí tuệ nhân tạo là một công nghệ biến đổi có thể thúc đẩy lợi ích quốc gia của chúng ta theo những cách chưa từng có”. “Đồng thời, nó mang đến những rủi ro thực sự mà chúng ta có thể giảm thiểu bằng cách áp dụng các phương pháp hay nhất và thực hiện các hành động cụ thể, đã được nghiên cứu khác”.
Hội đồng quản trị sẽ do Mayorkas lãnh đạo và bao gồm một số giám đốc điều hành AI cấp cao, bao gồm Giám đốc điều hành OpenAI Sam Altman, Chủ tịch kiêm Giám đốc điều hành Microsoft Satya Nadella, Giám đốc điều hành Alphabet Sundar Pichai, Đồng sáng lập và Giám đốc điều hành Anthropic Dario Amodei, và Chủ tịch kiêm Giám đốc điều hành NVIDIA Jensen Huang. .
“Tôi rất biết ơn vì những nhà lãnh đạo thành đạt như vậy đang cống hiến thời gian và chuyên môn của họ cho hội đồng quản trị để giúp đảm bảo cơ sở hạ tầng quan trọng của quốc gia chúng ta—các dịch vụ quan trọng mà người Mỹ dựa vào hàng ngày—bảo vệ một cách hiệu quả trước các rủi ro và nhận ra tiềm năng to lớn của công nghệ biến đổi này, ”Mayorkas nói.
Amodei của Anthropic cho biết trong một tuyên bố đồng thời: “Công nghệ AI có khả năng mang lại lợi ích to lớn cho xã hội nếu được triển khai một cách có trách nhiệm, đó là lý do tại sao chúng tôi ủng hộ nỗ lực kiểm tra tính an toàn của các hệ thống AI tiên tiến nhằm giảm thiểu rủi ro tiềm ẩn”. “Chúng tôi tự hào được góp phần nghiên cứu ý nghĩa của AI trong việc bảo vệ cơ sở hạ tầng quan trọng cùng với các nhà lãnh đạo khác trong khu vực công và tư nhân.
Ông tiếp tục: “Việc triển khai AI an toàn là điều tối quan trọng để đảm bảo cơ sở hạ tầng hỗ trợ xã hội Mỹ và chúng tôi tin rằng việc thành lập hội đồng này là một bước tiến tích cực trong việc tăng cường an ninh quốc gia của Hoa Kỳ”.
Nadella của Microsoft cho biết thêm: “Trí tuệ nhân tạo là công nghệ mang tính biến đổi nhất trong thời đại của chúng ta và chúng ta phải đảm bảo nó được triển khai một cách an toàn và có trách nhiệm”. “Microsoft rất vinh dự được tham gia vào nỗ lực quan trọng này và mong muốn được chia sẻ cả những kiến thức đã học được cho đến nay cũng như các kế hoạch của chúng tôi trong tương lai.”
Những người khác tham gia Ban An toàn và Bảo mật AI bao gồm Giám đốc điều hành Dịch vụ Web của Amazon, Adam Selipsky, Chủ tịch và Giám đốc điều hành IBM Arvind Krishna, đồng giám đốc Viện AI lấy con người làm trung tâm Stanford, Fei-Fei Li, và Maya Wiley, chủ tịch và Giám đốc điều hành của Hội nghị Lãnh đạo về Dân sự. và Nhân quyền.
Li nói: “Tôi rất vinh dự được tham gia cùng nhóm các nhà lãnh đạo liên ngành này để quản lý công nghệ thay đổi thế giới này một cách có trách nhiệm và lấy con người làm trung tâm”. “Cuối cùng, AI là một công cụ, một công cụ mạnh mẽ và nó phải được phát triển và áp dụng với sự hiểu biết về cách nó sẽ tác động đến cá nhân, cộng đồng và xã hội nói chung.”
Theo DHS, hội đồng quản trị sẽ tổ chức cuộc họp hàng quý đầu tiên vào đầu tháng 5 và sẽ ngay lập tức được giao nhiệm vụ đưa ra các khuyến nghị thư ký để đảm bảo áp dụng an toàn công nghệ AI trong các dịch vụ thiết yếu. Mục tiêu là tạo ra một diễn đàn để DHS, “cộng đồng cơ sở hạ tầng quan trọng” và các nhà lãnh đạo AI trao đổi thông tin về các rủi ro bảo mật liên quan đến AI.
Sự xâm nhập nhanh chóng của trí tuệ nhân tạo vào xu hướng phổ biến vào năm 2023 khiến các nhà lãnh đạo toàn cầu phải chật vật xây dựng các quy định để đối phó với công nghệ mới. Vào tháng XNUMX, Diễn đàn Kinh tế Thế giới (WEF) đã coi trí tuệ nhân tạo và điện toán lượng tử nằm trong danh sách những rủi ro toàn cầu cấp bách nhất.
Sau khi ban hành một lệnh điều hành vào tháng 2023 năm XNUMX, Chính quyền Biden tuyên bố ra mắt Hoa Kỳ Hiệp hội Viện An toàn AI (AISIC), bao gồm nhiều cái tên tham gia sáng kiến của DHS.
Ngoài những lo ngại về an ninh quốc gia, các nhà phát triển AI—bao gồm Google, Meta và OpenAI—vào thứ Ba đã tham gia cùng các tổ chức phi lợi nhuận Thorn và All Tech is Human, cầm cố để thực thi các biện pháp bảo vệ xung quanh các mô hình AI tương ứng của họ nhằm ngăn chặn việc chúng bị sử dụng để tạo ra tài liệu lạm dụng tình dục trẻ em (CSAM). CSAM cũng là trọng tâm của bức thư mới do Thượng nghị sĩ John John gửi. Elizabeth Warren cho DHS và Bộ Tư pháp.
Sửa bởi Ryan Ozawa.
Luôn cập nhật tin tức về tiền điện tử, cập nhật hàng ngày trong hộp thư đến của bạn.
