Cuộc Cách Mạng Trình Duyệt AI: Tại Sao 30 Năm Bảo Mật Web Vừa Sụp Đổ

Giới thiệu: Khủng hoảng niềm tin

Trong ba thập kỷ, bảo mật web đã dựa trên một nguyên tắc nền tảng vững chắc, không thể lay chuyển: người dùng được tin tưởng, nhưng nội dung thì không.

Công việc của trình duyệt (toàn bộ mô hình bảo mật của chúng ta) là xây dựng một BỨC TƯỜNG BẢO MẬT giữa tài sản kỹ thuật số của bạn và thế giới bên ngoài hỗn loạn, thường độc hại của internet. Chính sách cùng nguồn gốc (SOP), sandboxing và cách ly quy trình đều là những công cụ được thiết kế để ngăn chặn một tập lệnh xấu từ CNN.com đọc thông tin đăng nhập của bạn trên BankOfAmerica.com. Mô hình này hoạt động vì người dùng, đang ngồi trước bàn phím, là người gác cổng đáng tin cậy, người duy nhất được ủy quyền để dịch nội dung (một cú nhấp chuột) thành một hành động (một giao dịch tài chính).

Nhập tác nhân AI

Trợ lý kỹ thuật số mới này phá vỡ nền tảng đó. Nó là một thực thể tự chủ, mạnh mẽ, đồng thời được người dùng tin tưởng (nó ở trên máy của bạn, trong trình duyệt của bạn và luôn quan tâm đến lợi ích tốt nhất của bạn) và bị nhiễm bởi nội dung (nó đọc và xử lý mọi thứ mà những kẻ độc hại có thể mơ ước). Chúng ta không còn đối phó với một lỗ hổng bảo mật thụ động; chúng ta đang phải đối mặt với một cuộc khủng hoảng về niềm tin kiến trúc.

Nghịch lý ranh giới tin cậy

Để hiểu rõ hơn về quy mô của vấn đề, chúng ta cần nói về các ranh giới. Hãy tưởng tượng trình duyệt hiện tại của bạn như một hầm chứa được bảo vệ tốt. Bên trong, bạn có khóa, lịch sử và các phiên hoạt động của mình. Bên ngoài là thế giới hoang dã của web.

Mã độc hại mà chúng ta đã chiến đấu trong 30 năm, như một payload Cross-Site Scripting (XSS), luôn là một thế lực bên ngoài cố gắng chọc thủng một lỗ nhỏ trên bức tường. Khả năng phòng thủ của chúng ta rất xuất sắc trong việc phát hiện và ngăn chặn những cú chọc đó.

Tuy nhiên, tác nhân AI (ví dụ: ChatGPT Atlas), tạo ra một Nghịch lý ranh giới tin cậy. Nhờ vào tính ngây thơ của nó.

Nó sống bên trong hầm của bạn (nó là tác nhân của bạn, với quyền truy cập đáng tin cậy) nhưng nó liên tục vươn tay ra bên ngoài để lấy nội dung bên ngoài, không đáng tin cậy và sau đó đưa nội dung đó trở lại bên trong để hành động theo nó. Nó hoạt động như một đại diện đặc quyền, chủ động - một người hướng dẫn VIP mà chúng ta đã giao chìa khóa vạn năng, sau đó nhận đề xuất từ một người lạ trên đường phố.

Tác nhân đọc một lời nhắc do một hacker mũ đen tạo ra, diễn giải nó và thực hiện một cuộc tấn công XSS tàn khốc từ một vị trí nội bộ đáng tin cậy. Mối đe dọa bên ngoài đã được chuyển thành một hành động nội bộ đặc quyền. Nó không phải là một vi phạm mà là một sự phản bội thông qua proxy. (Nếu điều đó có vẻ kịch tính, tôi xin lỗi, nhưng hãy tin tôi, nhóm bảo mật đang mất ngủ vì việc này.)

Tại sao Sandboxing không còn đủ nữa

Giải pháp hàng đầu cho bảo mật trình duyệt hiện đại là sandboxing: tách các quy trình thành các vùng chứa riêng biệt để lỗi trong một quy trình không thể lan sang các quy trình khác. Nó hiệu quả, cần thiết và, thật không may, hầu như không liên quan đến trình duyệt AI.

Tại sao?

Bởi vì tác nhân AI hoạt động trong một bối cảnh pha trộn, lan tỏa. Nó không sống trong một tab gọn gàng, bị cô lập. Nó thường được thiết kế để:

1. Đọc và tóm tắt các tab đang mở của bạn: Nó thấy email công việc, cổng thông tin nhân sự và sao kê ngân hàng của bạn đồng thời
    

2. Truy cập thông tin đăng nhập/lịch sử của bạn: Nó cần điều này để được "hữu ích"
    

3. Tương tác chéo các hành động: Nó thực hiện một hướng dẫn tác vụ (ví dụ: "Đặt một chuyến đi đến London") và thực hiện nó bằng cách sử dụng trang web du lịch đã đăng nhập của bạn, hệ thống chi phí của công ty bạn và lịch của bạn

Trong thế giới cũ, một quy trình sandboxed bị lỗi giống như một động cơ duy nhất bị hỏng trên một chiếc máy bay, bạn mất một động cơ, nhưng chiếc máy bay vẫn an toàn. Tác nhân AI, theo thiết kế, là một siêu trình có chủ đích vi phạm nguyên tắc ít đặc quyền nhất. Chức năng cốt lõi của nó là kết nối các dấu chấm trên nhiều tài nguyên nhạy cảm.

Chúng ta đã trao đổi một mô hình rủi ro dựa trên thực thi mã bị cô lập cho một mô hình dựa trên giải thích phổ biến, đặc quyền. Giải pháp sandboxing, được xây dựng để cách ly, KHÔNG THỂ bảo vệ một hệ thống được thiết kế để kết nối lan tỏa.

Nó giống như đặt một hàng rào nhỏ bé xung quanh một đám mây.

Trọng tâm bảo mật mới: Tính toàn vẹn ngữ nghĩa

Kiến trúc này buộc phải có một bước ngoặt chiến lược ở cấp C-suite. Chúng ta phải chuyển trọng tâm của mình từ:

Mối đe dọa không còn là tràn bộ đệm trong Assembly; đó là một hướng dẫn bằng tiếng Anh đơn giản (hoặc tiếng Trung, hoặc Python, hoặc SQL) khai thác sự sẵn sàng "hữu ích" của tác nhân. Chúng ta gọi đây là rủi ro Tính toàn vẹn ngữ nghĩa.

TƯƠNG LAI CỦA BẢO MẬT TRÌNH DUYỆT VÀ DOANH NGHIỆP không thể dựa vào việc phát hiện những gì trình duyệt đang làm. Nó phải tập trung vào việc xác thực tại sao nó đang làm điều đó, đảm bảo ý định của hành động phù hợp với mục tiêu thực tế của người dùng đáng tin cậy.

Bước ngoặt chiến lược này đòi hỏi một sự thay đổi cơ bản trong cách chúng ta quản lý rủi ro:

• Mô hình hành vi: Chúng ta phải vượt ra ngoài việc giám sát mạng đơn giản để giám sát hành vi của tác nhân. Tại sao tác nhân đột nhiên đọc 100 email cuối cùng và sau đó cố gắng thay đổi thông tin tiền gửi trực tiếp của CEO? Điều này rất khó và sẽ còn khó khăn hơn khi AI liên quan.
   

• Xác thực ngôn ngữ: Các biện pháp phòng thủ mới phải được xây dựng không chỉ kiểm tra nguồn gốc của mã, mà còn là tính toàn vẹn của hướng dẫn. Đây là một vấn đề quản lý rủi ro về hành vi và ngôn ngữ mà các biện pháp phòng thủ chu vi truyền thống chưa bao giờ được thiết kế để giải quyết.
   

Trình duyệt AI là một bước nhảy vọt phi thường về năng suất. Nhưng chúng ta không thể để sự cách mạng kiến trúc này đi theo tư duy bảo mật đã 30 năm tuổi. Sự sụp đổ của mô hình cũ không phải là một thất bại; đó là một lời kêu gọi đổi mới. Cuộc trò chuyện phải chuyển từ bảo vệ trước các cuộc tấn công sang thực thi ý định đáng tin cậy,  trước khi trợ lý "hữu ích" phá sản công ty.