>> Mỹ “thẳng cánh” trong cuộc đua technology AI với Trung Quốc
Tin tặc đã tràn lan bên trên toàn thế giới, ko chỉ mang tiến công những doanh nghiệp to, nhưng mà còn cả hệ thống bình an quốc gia. Việc nghiên cứu cách xử lý hacker đang là nhu yếu cấp thiết.
những hãng to ngã sung thêm Red Team (hacker nón đỏ), là một dạng hacker nón trắng nhưng chuyên về hệ thống trí tuệ nhân tạo (AI).
Từ lâu, những hacker nón đen đã tiến công vào hệ thống để lấy tiền, trong lúc những hacker nón trắng chuyên tìm những lỗ hổng bảo mật để che đậy. hiện nay, những doanh nghiệp to đã mang thêm Red Team (hacker nón đỏ), là một dạng hacker nón trắng nhưng chuyên về hệ thống trí tuệ nhân tạo (AI).
Đội đỏ “xuất phát”
Vào một ngày tuyết rơi vào tháng nhị, Amanda Minnich được giao nhiệm vụ tiến công một hệ thống AI: với một đoạn mã duy nhất, cô cần phải xâm nhập vào một trong những chương trình máy học phức tạp nhất do một đối tác của Microsoft phát triển. vận hành.
Minnich đã thử vô số phương pháp, từ sử dụng một hình ảnh để tiến công lừa hệ thống, sau đó sử dụng nhiều hình ảnh ko giống nhau, và sau rốt là tiến công lừa chương trình bởi một chuỗi hình ảnh lặp lại – một thủ pháp nhưng mà cô ấy mô tả nó giống như trong bộ phim truyền hình hành động Ocean’s Eleven lúc những tên trộm thay thế game thủ dạng phát trực tiếp nội dung camera bình an mang ghi lại cảnh quay cũ để lừa viên chức bảo đảm an toàn.
thủ pháp lặp thành công, Minnich bước vào và nắm quyền kiểm soát toàn bộ chương trình, còn Microsoft thì… chúc mừng cô đã hoàn thành nhiệm vụ.
>> Ngành bán lẻ sẽ chi mạnh cho technology AI
Thụy Sĩ treo thưởng 150.000 đô la cho bất kỳ ai phát sinh ra lỗ hổng trong hệ thống bỏ thăm trực tuyến của nước này.
Là member của Nhóm AI Đỏ của Microsoft, xâm nhập vào những hệ thống AI là một phần công việc của cô để kiểm tra tính ổn định của hệ thống và những yếu tố liên quan như mô hình, dữ liệu tập huấn, cũng như ứng dụng để chạy mô hình.
Red Team là một nhóm những chuyên gia bảo mật làm việc và suy nghĩ như một tin tặc để vượt qua những kiểm soát bình an mạng, sử dụng tất cả những loại kỹ thuật tiến công để tìm ra điểm yếu của loài người, quy trình và technology để thực hiện cuộc tiến công mô phỏng và sau lúc thực hiện cuộc tiến công mô phỏng, những đề xuất và kế hoạch tăng cường bảo mật được thực hiện.
nhu yếu đang tăng lên từng ngày
Thuật ngữ “Red Team” bắt nguồn từ những năm 1960 với mô phỏng của Bộ Quốc phòng Hoa Kỳ và hiện nay được vận dụng rộng thoải mái trong lĩnh vực bình an mạng. cùng theo với sự phát triển của AI, kể từ thời điểm năm 2019, những gã khổng lồ technology như Microsoft, Google và Meta đã xây dựng Red Teams của riêng mình để tận dụng tầm quan trọng kiểm tra và bắt gặp những khuyết thiếu, thành kiến và lỗi. bảo mật của những chương trình học máy của chúng ta.
Động thái này là một phần của quy trình thiết lập đạo đức và quy tắc quản lý AI, vốn là chủ đề thảo luận giữa những hội đồng quản trị doanh nghiệp và Quốc hội Hoa Kỳ. Theo Gartner, “những hệ thống AI thông minh hơn, thời gian nhanh nhẹn hơn và mang trách nhiệm hơn” đang dẫn đầu trong phân tích dữ liệu vào năm 2021 và mang vẻ như toàn bộ ngành technology đang làm cho mỗi thứ để chứng minh điều đó. chiếc đó.
Năm ngoái, Twitter đã mở một cuộc thi tìm kiếm sự thiên vị trong hệ thống AI của tôi để mọi người tham dự, bao gồm cả người tổ chức và tiền thưởng. Và Google cam kết tăng gấp đôi lực lượng lao động và rót thêm vốn vào nghiên cứu đạo đức AI …
Tìm kiếm những lỗ hổng bảo mật
những tập đoàn định hướng hoạt động của Đội Đỏ theo khá vô số phương pháp ko giống nhau. Tại Google, Red Team sẽ tiến công giá sự tương tác với người sử dụng của sản phẩm, người sử dụng mục tiêu và khách truy cập cũng như những vấn đề về vốn chủ sở hữu. Sau đó, chúng ta nghĩ ra một phương pháp để kiểm tra độ ổn định của sản phẩm trước những yếu tố nhạy cảm như tôn giáo, phái mạnh nữ giới và xu thế tình dục của người sử dụng. Sau đó là tích lũy và kiểm tra dữ liệu xâm nhập, nơi những member trong Group làm việc và tương tác với nhau về những phương pháp tiếp cận, vấn đề và giải pháp. Bước sau rốt là tiến công giá kết quả nhận được và thảo luận với phòng ban thuyết trình về cách hạn chế rủi ro rất mang thể xảy ra.
Tại Microsoft, Red Team được điều hành do Red Team Management. Đội đỏ mang nhiệm vụ tiến công giá rủi ro AI từ ko ít góc độ: một member gồm những chuyên gia bảo mật sẽ bắt gặp những lỗ hổng, trong lúc một chuyên gia xâm nhập sẽ xem xét mức độ lộ thông tin riêng tư, tài năng bị tiến công cắp. nền tảng học máy và tài năng tái tạo dữ liệu tập huấn cụ thể cho những hoạt động của AI. Từ đó, những nhà phát triển ứng dụng và kỹ sư CNTT sẽ xây dựng một bộ khí cụ sẽ giúp đỡ Microsoft chống lại những cuộc tiến công và lỗ hổng bảo mật phổ thông.
Đối với nhị tập đoàn technology bên trên, thời kì để Đội đỏ thực hiện tiến công giá từng phần kéo dãn dài từ một,5 – 3 tháng, và cả nhị tập đoàn đều giữ nguyên số lượng dự án cũng như tiêu chuẩn chỉnh chuyển giao dự án cho Đội đỏ “tiến công”.
song, tầm quan trọng của Red Team đối với sự phát triển của AI trong tương lai sắp sẽ vẫn rất quan yếu và càng ngày càng được nâng cao, với mục tiêu sau rốt là tạo ra những sản phẩm phục vụ nhu yếu của người sử dụng nhưng mà dường như ko gây ra những vấn đề bảo mật ko mang nhu yếu.
tiến công giá của game thủ:
