Tin tức Gate News: các nhà nghiên cứu của Google DeepMind cảnh báo rằng, môi trường Internet cởi mở có thể bị lợi dụng để chiếm quyền các tác nhân AI tự chủ, từ đó thao túng hành vi của chúng. Báo cáo có tên “Bẫy tác nhân AI” nêu rằng, khi doanh nghiệp triển khai các tác nhân AI để thực hiện các nhiệm vụ thực tế, kẻ tấn công cũng có thể tiến hành các cuộc tấn công có mục tiêu thông qua mạng. Nghiên cứu đã xác định sáu rủi ro chính, bao gồm: bẫy chèn nội dung, bẫy thao túng ngữ nghĩa, bẫy trạng thái nhận thức, bẫy kiểm soát hành vi, bẫy hệ thống và bẫy tương tác người–máy.
Bẫy chèn nội dung là trực tiếp nhất; kẻ tấn công có thể đặt chỉ dẫn trong các bình luận HTML, siêu dữ liệu hoặc các phần tử trang ẩn, sau khi tác nhân đọc được thì có thể thực thi. Bẫy thao túng ngữ nghĩa được thực hiện bằng cách tải các cách diễn đạt mang tính “thẩm quyền” hoặc ngụy trang thành các trang web thuộc môi trường nghiên cứu, âm thầm ảnh hưởng đến cách tác nhân hiểu nhiệm vụ, đôi khi thậm chí còn vượt qua các cơ chế an toàn. Bẫy trạng thái nhận thức hoạt động bằng cách cấy dữ liệu giả vào các nguồn thông tin của tác nhân, khiến nó trong thời gian dài tin nhầm rằng các thông tin này đã được xác minh. Bẫy kiểm soát hành vi thì nhắm vào thao tác thực tế của tác nhân, có thể dẫn dụ nó truy cập dữ liệu nhạy cảm và truyền chúng tới mục tiêu bên ngoài.
Bẫy hệ thống liên quan đến sự thao túng phối hợp giữa nhiều hệ thống AI, có thể gây ra hiệu ứng dây chuyền, tương tự như việc giao dịch theo thuật toán khiến thị trường sụp đổ đột ngột. Bẫy tương tác người–máy tận dụng khâu kiểm duyệt thủ công: bằng cách tạo ra nội dung kiểm duyệt trông có vẻ đáng tin, các hành vi gây hại có thể lách qua sự giám sát.
Để ứng phó rủi ro, DeepMind đề xuất kết hợp huấn luyện đối kháng, lọc đầu vào, giám sát hành vi và hệ thống uy tín nội dung mạng, đồng thời xây dựng khung trách nhiệm pháp lý rõ ràng hơn. Tuy nhiên, nghiên cứu cho thấy ngành hiện vẫn thiếu các tiêu chuẩn phòng vệ thống nhất; các biện pháp hiện có thường phân tán và tập trung không đồng đều. Nghiên cứu kêu gọi các nhà phát triển và doanh nghiệp chú ý đến an toàn môi trường vận hành của các tác nhân AI, phòng ngừa các rủi ro tiềm ẩn về thao túng trên mạng và lạm dụng.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo
Tuyên bố miễn trừ trách nhiệm.
Bài viết liên quan
Sàn giao dịch bị trừng phạt Grinex bị tấn công cướp 13,7 triệu USD; đổ lỗi cho các cơ quan tình báo nước ngoài
Grinex, một sàn giao dịch crypto-ruble bị trừng phạt, đã ngừng hoạt động do một cuộc tấn công mạng đã đánh cắp hơn $13.74 triệu USDT. Người ta tin rằng cuộc tấn công có liên quan đến các tác nhân cấp nhà nước nhằm gây mất ổn định hệ thống tài chính của Nga. Grinex đang phối hợp với cơ quan thực thi pháp luật nhưng không có mốc thời gian để nối lại dịch vụ.
Coinpedia5giờ trước
Figure Bị Tố Người Bán Khống Do Các Khẳng Định Tích Hợp Blockchain; Cổ Phiếu FIGR Giảm 53% So Với Đỉnh Tháng 1
Figure Technology Solutions đã vấp phải các cáo buộc từ Morpheus Research rằng công ty phóng đại việc sử dụng công nghệ blockchain, dẫn đến giá cổ phiếu sụt giảm đáng kể. Figure đã bảo vệ hoạt động của mình, nhấn mạnh các tính năng tài sản số và các chỉ số hiệu suất mạnh mẽ.
GateNews12giờ trước
Kẻ lừa đảo crypto ở Houston bị tuyên án 23 năm vì vụ lừa $20M Meta-1 Coin
Robert Dunlap, một doanh nhân đến từ Houston, đã bị tuyên án 23 năm tù vì một vụ lừa đảo tiền mã hóa $20 triệu đô la liên quan đến tài sản giả mạo và các hành vi lừa dối, ảnh hưởng đến hơn 1.000 nạn nhân. Vụ án của ông phản ánh sự gia tăng rộng hơn của các tội phạm mạng liên quan đến crypto.
GateNews17giờ trước
SlowMist Cảnh Báo Cuộc Tấn Công Phishing Đang Diễn Ra Dùng Phần Mềm Giả 'Harmony Voice'
Nhóm bảo mật của SlowMist đã cảnh báo về một chiến dịch kỹ thuật lừa đảo nhắm vào người dùng tiền mã hóa. Kẻ gian mạo danh đối tác dự án để lừa người dùng tải xuống một ứng dụng độc hại được ngụy trang như một công cụ dịch. Người dùng được khuyến cáo kiểm tra tính xác thực của phần mềm.
GateNews17giờ trước
CEO sàn Zonda Đổ lỗi cho người sáng lập mất tích vì $336M trong Bitcoin bị thất lạc
Giám đốc điều hành Zonda, Przemysław Kral, cho rằng việc sàn bị mất quyền truy cập vào 4.500 BTC, trị giá $336 triệu USD, là do người sáng lập Sylwester Suszek mất tích đã không chuyển các khóa cá nhân. Trong bối cảnh các cáo buộc phá sản và yêu cầu rút tiền gia tăng mạnh, Kral khẳng định Zonda vẫn đủ khả năng thanh toán và sẽ theo đuổi hành động pháp lý trong khi tìm kiếm Suszek, người đã biến mất vào năm 2022.
GateNews18giờ trước
Sàn Grinex dừng toàn bộ giao dịch sau $15M cuộc tấn công mạng vào hệ thống ví
Grinex, một sàn giao dịch crypto của Kyrgyzstan, đã tạm dừng giao dịch sau một cuộc tấn công mạng gây ra thiệt hại khoảng $15 triệu. Mức độ tinh vi của cuộc tấn công cho thấy có thể liên quan đến các tổ chức hoặc sự tham gia ở cấp nhà nước. Grinex đã báo cáo vụ việc với cơ quan chức năng và đang đánh giá mức độ thiệt hại.
GateNews18giờ trước
