Bạn có tin một hệ thống AI được công bố rầm rộ để tìm lỗ hổng bảo mật lại có thể bỏ qua những điểm mù cơ bản nhất không? Nếu có, tôi có một câu chuyện để kể. Tuần trước, một bản tin cho biết Visa đã triển khai một mô hình AI mới, mang tên 'Claude Mythos', do Anthropic cung cấp, để quét lỗ hổng trong hệ thống thanh toán khổng lồ của họ. Thoạt nhìn, đó là một cột mốc: AI xâm nhập vào cốt lõi của cơ sở hạ tầng tài chính toàn cầu. Nhưng đối với một người đã mổ xẻ mã hợp đồng ICO và kiểm toán các giao thức DeFi trong suốt một thập kỷ qua, tôi thấy một câu chuyện khác. Một câu chuyện về cách mà những lời hứa hẹn của AI—đặc biệt là trong lĩnh vực bảo mật—thường che giấu những thất bại kỹ thuật tinh vi mà chỉ những kỹ sư thực thụ mới có thể nhìn thấy. Hãy để tôi giải phẫu bản tin này, không phải theo cách của một nhà báo, mà theo cách của một Core Protocol Developer từng chứng kiến quá nhiều ICO sụp đổ vì 'lỗ hổng'.
Trước khi đi sâu, bạn cần hiểu bối cảnh. Visa không phải là một startup non trẻ. Đó là một cỗ máy xử lý thanh toán khổng lồ, nơi một lỗ hổng duy nhất có thể gây thiệt hại hàng tỷ đô la. Các công ty như vậy thường có đội ngũ bảo mật nội bộ với các công cụ SAST/DAST truyền thống từ Checkmarx hoặc Veracode. Việc họ chuyển sang sử dụng AI—cụ thể là một mô hình ngôn ngữ lớn (LLM) như 'Claude Mythos'—không phải là một cuộc cách mạng. Đó là một bước tiến hóa. Nhưng bước tiến này có một vấn đề: nó dựa trên một niềm tin mù quáng vào sức mạnh của AI, điều mà tôi, sau khi phân tích code của hàng tá dự án, cho rằng là cực kỳ nguy hiểm.
Bây giờ, hãy đến với phần cốt lõi. Bản tin nói rằng 'Claude Mythos' sẽ giúp phát hiện các lỗ hổng bảo mật. Nghe có vẻ ấn tượng. Nhưng hãy hỏi: một LLM thực sự 'hiểu' code đến mức nào? Dựa trên kinh nghiệm kiểm toán của tôi, câu trả lời là: rất kém khi đối mặt với các vulnerability logic phức tạp và phụ thuộc vào trạng thái. Hầu hết các model AI hiện tại, bao gồm cả dòng Claude, giỏi trong việc nhận diện các mẫu lỗi phổ biến (ví dụ: reentrancy trong smart contract), nhưng thất bại thảm hại khi gặp các lỗ hổng đòi hỏi phải hiểu sâu về business logic hoặc tương tác giữa nhiều thành phần trong một hệ thống phân tán. Ví dụ, trong một hệ thống thanh toán như Visa, một lỗ hổng có thể nằm ở cách mà một tin nhắn đặc biệt được routing giữa các node, chứ không phải trong một hàm code đơn lẻ. Một LLM, được huấn luyện trên hàng triệu dòng code, sẽ không thể 'nhìn thấy' điều đó trừ khi nó được cung cấp một bối cảnh cực kỳ chính xác, điều mà các dataset huấn luyện hiện tại không có.
Vấn đề còn tồi tệ hơn. Một trong những điểm mù lớn nhất của LLM trong bảo mật là 'sự tự tin sai lầm' (false confidence). Model có thể đưa ra một báo cáo rất chi tiết về một lỗ hổng không tồn tại, làm lãng phí thời gian của đội ngũ bảo mật. Ngược lại, nó cũng có thể bỏ sót một lỗ hổng thực sự nếu lỗ hổng đó không nằm trong các pattern nó đã học. Tôi đã thấy điều này xảy ra trong một audit cho một giao thức AMM. Một đồng nghiệp sử dụng một công cụ LLM để quét lỗ hổng, nó báo cáo 20 lỗi, tất cả đều là false positives. Trong khi đó, một lỗi chết người trong công thức tính phí lại hoàn toàn bị bỏ qua. Đây là lý do tại sao bất kỳ tuyên bố nào về 'AI phát hiện lỗ hổng' đều phải được xem xét với một con mắt hoài nghi cực kỳ sâu sắc.
Điều này đưa tôi đến góc nhìn phản trực giác của bài viết này. Trong khi công chúng và các nhà đầu tư đang ăn mừng 'Claude Mythos' như một bước đột phá, tôi tin rằng đây thực sự là một thất bại an ninh tiềm tàng, nhưng dưới một hình thức khác. Đó là sự xói mòn của chuyên môn và sự lười biếng trong tư duy hệ thống. Khi một tổ chức như Visa, với nguồn lực khổng lồ, tin tưởng vào một chiếc hộp đen để tìm lỗ hổng, họ đang tạo ra một điểm mù mới. Họ đang đánh cược rằng AI có thể 'hiểu' được hệ thống phức tạp của họ tốt hơn các kỹ sư con người. Điều này không đúng. Một giao thức blockchain, một hệ thống thanh toán, là sản phẩm của vô số quyết định thiết kế. Không có AI nào có thể nắm bắt được sắc thái đó nếu không được đào tạo đặc biệt với toàn bộ lịch sử thiết kế và động lực kinh doanh. Hơn nữa, việc phụ thuộc vào một LLM có thể dẫn đến 'tấn công đối nghịch' (adversarial attack) vào chính model đó. Một hacker tinh vi có thể thiết kế mã nguồn sao cho Claude Mythos 'nhìn' thấy nó an toàn, trong khi thực tế nó ẩn chứa một lớp khai thác sâu.
Câu hỏi thực sự không phải là 'AI có thể phát hiện lỗ hổng không?'. Câu hỏi là: 'Liệu chúng ta có đang sử dụng AI để thay thế cho tư duy phản biện và kỹ thuật kiểm toán thực thụ không?'. Câu trả lời, nếu bạn nhìn vào cách bản tin này được trình bày, có vẻ là 'có'. Chúng ta đang bị cuốn vào vòng xoáy của những lời hứa hẹn, nơi một cái tên đẹp như 'Mythos' đủ để che giấu sự thật rằng công nghệ này, ở thời điểm hiện tại, vẫn còn là một công cụ hỗ trợ cực kỳ mạnh mẽ nhưng cũng cực kỳ nguy hiểm khi bị hiểu lầm. 'Claude Mythos' không phải là một giải pháp. Nó chỉ là một bản nâng cấp cho bộ công cụ. Nếu không có kỹ sư bảo mật giàu kinh nghiệm đứng sau, những người hiểu rõ giới hạn của từng dòng code, thì đây chỉ đơn giản là một lớp sơn mới trên một bức tường đã nứt.
