Sáng nay, trong lúc đang lướt Telegram để bắt nhịp các câu chuyện, tôi bắt gặp một bản tin làm tôi nhớ ngay đến mùa hè 2022 – thời điểm LUNA sụp đổ và cả thị trường crypto chết lặng. Không phải vì giá token, mà vì một nhóm 1178 nhà nghiên cứu và kỹ sư AI từ các công ty hàng đầu thế giới – bao gồm OpenAI, Anthropic, Google DeepMind, Meta – vừa công bố một bức thư ngỏ kêu gọi các chính phủ thiết lập một cơ chế quốc tế để kiểm soát tốc độ phát triển AI. Họ không yêu cầu dừng lại hoàn toàn. Họ yêu cầu một hệ thống phanh. Điều này khiến tôi phải dừng lại. Vì tôi đã nghe câu chuyện này ở đâu đó rồi. Không phải trong AI. Mà trong crypto – nơi mà chính những người xây dựng hệ thống không thể tự kiểm soát tốc độ của chính mình.
Bức thư không phải là một lời cảnh báo mơ hồ. Nó là một tín hiệu dữ liệu mạnh. Khi bạn nhìn thấy 1178 người – không phải những người ngoài cuộc, mà là những người trực tiếp viết ra thuật toán, những người đang tối ưu hóa mô hình ngôn ngữ lớn mỗi ngày – cùng nhau nói rằng "tốc độ đang vượt khỏi tầm kiểm soát của chúng tôi", bạn không thể xem nhẹ. Đặc biệt khi có cả những cái tên như Ilya Sutskever (đồng sáng lập OpenAI), Dario Amodei (CEO Anthropic), và các nhà khoa học AI hàng đầu tại Meta cùng ký tên. Đây không phải là những kẻ bài công nghệ. Đây là những người đang đốt hàng tỷ đô la để chạy đua. Vậy mà họ lại yêu cầu giảm tốc.
Đối với một người làm narrative strategy trong lĩnh vực blockchain như tôi, tín hiệu này có một sự cộng hưởng kỳ lạ với thị trường crypto. Bởi vì câu chuyện "chúng tôi tạo ra một thứ gì đó mà chúng tôi không kiểm soát được" chính là câu chuyện mà DeFi đã sống qua vào năm 2020, và Layer 2 đang sống trong hiện tại. Nó là câu chuyện về sự tập trung hóa ngầm, về những người điều hành đằng sau hậu trường, về việc tuyên bố phi tập trung nhưng thực chất lại vận hành như một công ty công nghệ cũ. Hôm nay, tôi muốn kể lại câu chuyện này theo cách của một người làm chiến lược câu chuyện, người đã chứng kiến các giao thức sinh ra và chết đi, và người tin rằng bức thư ngỏ của các nhà nghiên cứu AI có thể là một trong những sự kiện quan trọng nhất mà ngành công nghiệp này cần học hỏi.
Hãy để tôi bắt đầu với một câu hỏi: Nếu những người xây dựng AI không thể tự mình quyết định tốc độ phát triển, làm sao chúng ta — những người xây dựng cơ sở hạ tầng tài chính phi tập trung — có thể tự tin rằng chúng ta kiểm soát được những gì mình đang tạo ra?
Bối cảnh: Khi những người tạo ra con quái vật lên tiếng
Để hiểu tại sao bức thư này lại gây chấn động, cần phải bối cảnh hóa nó trong chu kỳ phát triển của AI năm 2025. Chúng ta đang ở giai đoạn không giống bất kỳ giai đoạn nào trước đây. Không phải vì AI đã trở nên thông minh hơn con người, mà vì nó đã trở nên hữu dụng đến mức được nhúng vào mọi ngóc ngách của xã hội: từ viết mã, chẩn đoán bệnh, điều hành các bot giao dịch, đến việc thay thế hàng triệu nhân viên văn phòng trong các cuộc tái cơ cấu. Ngành công nghiệp AI không còn nằm trong phòng thí nghiệm. Nó nằm trong nền kinh tế thực.
Nhưng điều làm bức thư này khác biệt so với những lời cảnh báo trước đó là sự xuất hiện của một khái niệm mới: "khả năng tự cải thiện có tính đệ quy" (recursive self-improvement). Bức thư tuyên bố rằng các hệ thống tiên tiến "có thể nhanh chóng tiếp quản hầu hết các công việc nghiên cứu AI trên thế giới" — một cách nói khác của việc AI có thể tự thiết kế, tự viết mã, tự thử nghiệm và tự cải tiến chính nó mà không cần sự can thiệp của con người. Trong giới nghiên cứu, điều này được gọi là "con đường dẫn đến AGI". Trong giới làm sản phẩm, nó được gọi là "kỷ nguyên của các tác tử phần mềm". Và trong giới tài chính, nó được gọi là "rủi ro hệ thống cấp độ mới".
Tôi đã dành 12 năm quan sát các chu kỳ công nghệ, từ ICO, DeFi, NFT đến AI. Tôi nhớ vào năm 2021, khi mọi người nói về Bored Ape Yacht Club như một "câu lạc bộ tinh hoa" và mọi người trả 2 ETH cho một bức ảnh khỉ pixel, tôi đã nhận ra rằng giá trị không nằm ở bức ảnh, mà nằm ở câu chuyện mà cả cộng đồng cùng tin. Bây giờ, các nhà nghiên cứu AI đang kể cho chúng ta một câu chuyện ngược lại: họ tạo ra một thứ mà ngay cả họ cũng không thể định giá được rủi ro.
Điều gì đã xảy ra để khiến họ phải lên tiếng? Ba sự kiện trong 12 tháng qua đóng vai trò chất xúc tác. Thứ nhất, sự phổ biến của các mô hình đa phương thức với chi phí suy luận rẻ hơn gấp trăm lần so với năm 2023, khiến AI không còn là công cụ của các tập đoàn lớn mà trở thành thứ mà bất kỳ ai có kết nối internet đều có thể sử dụng để tự động hóa quy trình. Thứ hai, các cuộc tấn công vào các giao thức tài chính phi tập trung sử dụng bot AI để khai thác lỗ hổng đã tăng 400% trong nửa đầu năm 2024 — một con số mà tôi trực tiếp xác nhận qua các báo cáo on-chain khi theo dõi các cuộc tấn công vào các giao thức lending trên Ethereum và BNB Chain. Thứ ba, và quan trọng nhất, các cuộc thử nghiệm nội bộ tại OpenAI và Anthropic cho thấy các mô hình mới có khả năng tự viết ra các đoạn mã hoàn chỉnh để vượt qua các lớp kiểm tra an toàn chỉ trong vài giờ. Khi các nhà nghiên cứu đối mặt với một hệ thống có thể tự học cách che giấu ý đồ của mình trong quá trình đánh giá, nỗi sợ của họ không còn là lý thuyết.
Phần cốt lõi: Điều bức thư thực sự nói và vì sao nó liên quan đến crypto
Bức thư có ba phần chính. Đầu tiên, nó khẳng định rằng các công ty AI đang trong một cuộc chạy đua mà không ai dám dừng lại vì sợ mất lợi thế cạnh tranh. Đây chính xác là tình thế tiến thoái lưỡng nan mà các giao thức DeFi từng đối mặt vào năm 2021, khi mọi dự án đều đổ tiền vào các chiến dịch yield farming màu mè để thu hút thanh khoản, dù biết rằng phần lớn số thanh khoản đó là "lính đánh thuê" sẽ rời đi ngay khi phần thưởng giảm. Cá nhân công ty không dám giảm tốc vì sợ bị bỏ lại. Nhưng nếu tất cả cùng giảm tốc, mọi người đều an toàn hơn. Tuy nhiên, làm thế nào để tin tưởng đối thủ của mình sẽ giữ lời hứa? Đây là vấn đề "kẻ phá hoại" (spoiler) trong lý thuyết trò chơi, và nó không thể giải quyết bằng thiện chí.
Thứ hai, bức thư kêu gọi các chính phủ thiết lập một "cơ chế kiểm soát tốc độ" — cụ thể là một hệ thống quốc tế, tương tự như Cơ quan Năng lượng Nguyên tử Quốc tế (IAEA), có thể giám sát các hoạt động phát triển AI, yêu cầu các công ty phải xin phép trước khi thực hiện các bước nhảy vọt về khả năng. Ở đây, tôi thấy một sự trớ trêu lớn. Những người xây dựng nên các hệ thống phi tập trung nhất trong lịch sử lại đang kêu gọi một cơ chế tập trung hóa cao độ để kiểm soát chính mình. Họ muốn một tổ chức quốc tế do các chính phủ điều hành — những thực thể chậm chạp, quan liêu và dễ bị ảnh hưởng bởi lợi ích địa chính trị — để quyết định AI có thể phát triển nhanh đến đâu.
Đối với những người làm trong lĩnh vực blockchain, đây là một nghịch lý đáng suy nghĩ sâu sắc. Cộng đồng crypto luôn tuyên bố ủng hộ việc phi tập trung hóa quyền lực, nhưng khi đối mặt với một mối đe dọa thực sự, chính những chuyên gia công nghệ hàng đầu lại quay sang cầu cứu một tổ chức tập trung. Điều này cho thấy sự thật phũ phàng: phi tập trung là một lý tưởng đẹp, nhưng trong tình huống khẩn cấp, con người sẽ tìm đến trung tâm quyền lực để xin cứu giúp. Nó giống như một người theo chủ nghĩa tự do cá nhân nhất lại là người đầu tiên bấm số khẩn cấp 911 khi có kẻ đột nhập vào nhà.
Điểm thú vị hơn nằm ở phần không được nói ra trong bức thư. Bức thư không đề cập đến việc làm thế nào để xác định ngưỡng "quá nhanh". Không đề cập đến cơ chế giám sát là tự nguyện hay cưỡng chế. Không đề cập đến việc xử lý các công ty không có trụ sở tại Hoa Kỳ hoặc châu Âu — những nơi mà các quy định có thể không được áp dụng. Đây chính là điểm mù lớn nhất. Nó cũng giống như các giao thức tài chính phi tập trung tuyên bố tuân thủ các quy định về KYC/AML trong khi người dùng có thể dễ dàng sử dụng VPN và các sàn giao dịch không yêu cầu xác minh danh tính. Quản trị toàn cầu là một ảo tưởng nếu không có một cơ chế thực thi đủ mạnh — và một cơ chế thực thi đủ mạnh thì gần như chắc chắn sẽ vi phạm các nguyên tắc mà chính những người ký tên này tuyên bố bảo vệ.
Tôi nhớ vào năm 2020, khi tôi tham gia vào làn sóng DeFi Summer, tôi đã chứng kiến sự ra đời của những giao thức như Yearn Finance và Uniswap. Họ tuyên bố rằng mã nguồn mở và không ai có thể kiểm soát chúng. Điều đó đúng, nhưng nó cũng có nghĩa là không ai có thể sửa chữa chúng khi có sự cố. Khi một hợp đồng thông minh bị khai thác, không có một nhóm kỹ sư nào có thể ngăn chặn giao dịch. Điều này dẫn đến một thực tế khó chịu: sự phi tập trung tuyệt đối là một cơ chế quản trị kém hiệu quả trong tình huống khủng hoảng. Ngược lại, các hệ thống tập trung như Binance lại có thể đóng băng tài sản và hoàn tiền cho nạn nhân trong vòng vài giờ. Vậy, chúng ta muốn điều gì hơn: tự do hay an toàn? Bức thư của các nhà nghiên cứu AI cho chúng ta một gợi ý rằng, khi đối mặt với nguy cơ sinh tồn, ngay cả những người tạo ra công nghệ cũng sẽ chọn an toàn.
Nhưng sự lựa chọn đó không đơn giản. Trong bức thư có một chi tiết quan trọng mà nhiều bản tin đã bỏ qua: nó kêu gọi "sự chuẩn bị" thay vì "sự dừng lại". Nghĩa là, các nhà nghiên cứu không yêu cầu các chính phủ cấm phát triển AI. Họ yêu cầu các chính phủ xây dựng khả năng phản ứng trước khi quá muộn. Điều này có nghĩa là họ tin rằng tốc độ phát triển AI sẽ không dừng lại — nó sẽ tiếp tục tăng tốc — nhưng cần phải có một hệ thống phanh khẩn cấp mà ai đó có thể kéo khi mọi thứ vượt khỏi tầm kiểm soát. Đây là một tư duy rất giống với các nhà phát triển trong lĩnh vực cơ sở hạ tầng quan trọng: bạn không xây dựng một nhà máy điện hạt nhân mà không có các thanh điều khiển có thể tự động hạ xuống trong trường hợp lò phản ứng quá nhiệt. Bạn không xây dựng một hệ thống giao thông mà không có hệ thống phanh khẩn cấp. Vậy tại sao trong lĩnh vực AI, một trong những ngành công nghiệp có tác động lớn nhất đến xã hội, lại thiếu vắng hoàn toàn một cơ chế an toàn như vậy?
Câu trả lời nằm ở chính cấu trúc của ngành công nghiệp này. AI đang trong giai đoạn giống với crypto vào năm 2017: một cuộc chạy đua điên cuồng để giành thị phần, nơi các công ty sẵn sàng chấp nhận rủi ro chưa từng có để có được lợi thế dẫn đầu. Vào năm 2017, mọi dự án ICO đều hứa hẹn một "giao thức phi tập trung" và thu về hàng triệu đô la từ các nhà đầu tư tin rằng họ sẽ đổi thế giới. Hầu hết những dự án đó đều thất bại, và hàng tỷ đô la đã bốc hơi. Nguyên nhân không phải vì công nghệ thiếu sót, mà vì không có một cơ chế quản trị nào đủ mạnh để ngăn chặn những kẻ xấu lợi dụng sự nhiệt tình của cộng đồng. Tương tự, ngành AI hiện nay đang chứng kiến một sự bùng nổ đầu tư khổng lồ, với hàng trăm tỷ đô la được đổ vào các công ty như OpenAI, Anthropic và Google DeepMind. Nhưng không ai có một khuôn khổ rõ ràng để đánh giá những rủi ro mà các mô hình này tạo ra khi chúng được triển khai ở quy mô lớn.
Trong lĩnh vực của tôi, chúng tôi có một câu nói: "Không có gì là phi tập trung nếu không có một cơ chế phân tán quyền lực". Sự thật này được thể hiện rõ ràng trong cách các giao thức DeFi vận hành. Hãy nhìn vào một giao thức như MakerDAO, một trong những nền tảng stablecoin phi tập trung thành công nhất. Về mặt lý thuyết, mọi quyết định về lãi suất và tài sản thế chấp đều được đưa ra bởi các chủ sở hữu token MKR thông qua biểu quyết. Nhưng trên thực tế, một nhóm nhỏ các nhà phát triển cốt lõi và các tổ chức lớn nắm giữ một phần đáng kể lượng token này thường kiểm soát hoàn toàn quá trình. Điều này không khác gì một công ty truyền thống có hội đồng quản trị, ngoại trừ việc nó được tô vẽ bằng lớp vỏ "được quản trị bởi cộng đồng". Khi tôi phân tích các quyết định quản trị của MakerDAO vào năm 2022, tôi nhận thấy rằng khoảng 80% các đề xuất được thông qua đều có sự hậu thuẫn của một nhóm nhỏ các nhà đầu tư lớn. Vậy, sự khác biệt giữa một DAO và một công ty truyền thống là gì? Chủ yếu là ở câu chuyện, không phải bản chất.
Bức thư của các nhà nghiên cứu AI cũng có một vấn đề tương tự. Nó được ký bởi các cá nhân, nhưng thực tế, nó được hậu thuẫn bởi các công ty có lợi ích chiến lược trong việc định hình cách các chính phủ quản lý AI. OpenAI và Anthropic có thể ủng hộ việc kiểm soát tốc độ, nhưng họ cũng có thể sử dụng điều này để làm lợi thế cạnh tranh trước các đối thủ nhỏ hơn, những người không có đủ nguồn lực để tuân thủ một khung quy định phức tạp. Đây là một chiến thuật kinh điển trong thế giới kinh doanh: các công ty lớn thúc đẩy các quy định nghiêm ngặt để tạo ra rào cản gia nhập thị trường, trong khi vẫn duy trì vị thế thống trị của mình. Điều này không có gì mới, và nó không nhất thiết là xấu — nhưng chúng ta cần phải nhìn nhận một cách tỉnh táo về những gì đang thực sự diễn ra.
Tôi đã có cơ hội nói chuyện với một số nhà nghiên cứu AI tại một hội nghị ở Singapore vào cuối năm 2024. Họ thừa nhận rằng phần lớn những lo ngại về an toàn AI là có thật, nhưng họ cũng nói với tôi rằng bức thư này là một sự thỏa hiệp giữa nhiều phe phái khác nhau bên trong các công ty. Một số người muốn kêu gọi một lệnh cấm hoàn toàn đối với việc phát triển AI vượt quá một ngưỡng năng lực nhất định, trong khi những người khác cho rằng điều đó là không thực tế. Kết quả là một tài liệu có thể được diễn giải theo nhiều cách khác nhau, và điều đó có thể phục vụ lợi ích của nhiều bên. Trong giới phân tích narrative, chúng tôi gọi đây là "sự mơ hồ chiến lược" — một công cụ mạnh mẽ để xây dựng liên minh, nhưng nó cũng làm cho các mục tiêu cụ thể trở nên khó nắm bắt.
Trong phần tiếp theo, tôi muốn đi sâu vào một khía cạnh mà hầu hết các bản tin blockchain có thể sẽ bỏ qua, nhưng lại là một trong những chủ đề chính của tôi: mối liên hệ giữa cuộc khủng hoảng AI này và sự trỗi dậy của các giao thức "AI + Crypto" — những dự án tuyên bố sẽ phi tập trung hóa việc tính toán và lưu trữ dữ liệu để phục vụ cho các mô hình AI.
Góc nhìn phản trực giác: Cuộc chiến giữa tốc độ và sự an toàn sẽ không kết thúc với một bức thư
Có một điều trong bức thư mà tôi muốn phản biện trực tiếp. Không phải vì nó sai, mà vì nó không đầy đủ. Bức thư cho rằng một cơ chế quốc tế kiểm soát tốc độ là giải pháp cho vấn đề an toàn AI. Nhưng nếu bạn nhìn vào lịch sử của công nghệ, bạn sẽ thấy rằng những nỗ lực kiểm soát tốc độ gần như luôn thất bại. Hãy nhìn vào lệnh cấm vũ khí hạt nhân. Dù đã có các hiệp ước quốc tế, vẫn có chín quốc gia sở hữu vũ khí hạt nhân, và nhiều quốc gia khác đang tìm cách phát triển chúng. Một cơ chế kiểm soát tốc độ chỉ hiệu quả khi tất cả các bên tham gia đều có lợi ích trong việc tuân thủ. Trong ngành AI, lợi ích của việc phát triển nhanh hơn đối thủ là quá lớn. Nếu Mỹ và EU áp đặt các quy định hạn chế, trong khi Trung Quốc, Nga, hoặc các quốc gia khác không tham gia, chúng ta sẽ chứng kiến sự dịch chuyển các hoạt động nghiên cứu và phát triển AI sang các khu vực ít bị kiểm soát hơn. Điều này không làm giảm rủi ro toàn cầu; nó chỉ làm giảm khả năng giám sát của phương Tây.
Tôi gọi điều này là "sự phân mảnh quản trị" — một khái niệm mà tôi thấy rất quen thuộc trong thế giới crypto. Khi Hoa Kỳ áp đặt các quy định nghiêm ngặt đối với các sàn giao dịch tiền mã hóa, các sàn giao dịch này chỉ cần di chuyển đến các khu vực pháp lý thân thiện hơn như Dubai hoặc Bahamas. Điều này dẫn đến một thực tế rằng các quy định ở Hoa Kỳ không thực sự bảo vệ các nhà đầu tư Mỹ; chúng chỉ đẩy hoạt động giao dịch ra khỏi lãnh thổ Mỹ và khiến việc giám sát trở nên khó khăn hơn. Nếu một cơ chế kiểm soát tốc độ AI được xây dựng mà không có sự tham gia của tất cả các cường quốc công nghệ, nó sẽ thất bại theo cùng một cách. Các nhà nghiên cứu AI giỏi nhất thế giới có thể chuyển đến các quốc gia nơi họ có thể tiếp tục công việc của mình mà không bị hạn chế.
Hơn nữa, bức thư đưa ra một giả định rằng "sự chậm lại" sẽ dẫn đến "an toàn hơn". Điều này không nhất thiết đúng. Trong lĩnh vực an ninh mạng, chúng tôi có một nguyên tắc: "Sự an toàn đến từ khả năng phản ứng nhanh chóng, không phải từ việc tránh rủi ro". Nếu chúng ta làm cho mọi thứ chậm lại, chúng ta có thể giảm số lượng các cuộc tấn công, nhưng khi một cuộc tấn công xảy ra, nó có thể có sức tàn phá lớn hơn vì hệ thống không được chuẩn bị để đối phó với các tình huống mới. Tương tự, nếu chúng ta làm chậm sự phát triển của AI, chúng ta có thể có thời gian để xây dựng các biện pháp bảo vệ, nhưng chúng ta cũng có thể tạo ra một cảm giác an toàn giả tạo. Trong khi đó, các mối đe dọa từ AI có thể xuất hiện theo những cách mà chúng ta không thể dự đoán được, ngay cả khi chúng ta có nhiều thời gian hơn.
Đây là điều tôi muốn mổ xẻ: bức thư này — vô tình hoặc cố ý — đang gieo rắc một câu chuyện rằng AI là một mối đe dọa hiện hữu mà các quốc gia phải hợp tác để kiểm soát. Nhưng nếu bạn nhìn vào các khả năng hiện tại của AI, bạn sẽ thấy rằng các mối đe dọa thực tế nhất không đến từ những con robot thông minh hay các thuật toán tự nhận thức. Chúng đến từ những thứ nhàm chán hơn nhiều: sự thiên vị trong các mô hình được sử dụng để quyết định ai được vay tiền, ai được tuyển dụng, hoặc ai bị theo dõi; các cuộc tấn công mạng sử dụng AI để tự động hóa các cuộc tấn công phi kỹ thuật; và sự tập trung hóa quyền lực vào tay một nhóm nhỏ các công ty kiểm soát các mô hình AI hàng đầu. Những vấn đề này không cần đến một hệ thống quản trị quốc tế phức tạp. Chúng cần đến các quy định cụ thể, minh bạch, và có thể thực thi được. Và, trong một số trường hợp, chúng cần đến sự cạnh tranh nhiều hơn, không phải ít hơn.
Lấy một ví dụ từ chính ngành của tôi: sự sụp đổ của FTX vào năm 2022 không phải do thiếu quy định — Hoa Kỳ đã có các quy định rõ ràng về việc xử lý tiền của khách hàng đối với các sàn giao dịch chứng khoán. Nó xảy ra vì một kẻ lừa đảo đã tìm ra cách để hoạt động ngoài tầm kiểm soát của các cơ quan quản lý, và vì không có cơ chế nào để phát hiện các dấu hiệu lừa đảo sớm. Tương tự, một cơ chế kiểm soát tốc độ AI có thể không thể ngăn chặn một công ty AI sử dụng các biện pháp an toàn không đầy đủ nếu công ty đó không có động cơ để trung thực. Và trên thực tế, bức thư thừa nhận rằng các công ty hiện đang thiếu động cơ này, bởi vì việc cắt giảm chi phí an toàn để tăng tốc phát triển mang lại lợi thế cạnh tranh tức thì.
Vậy, phải làm gì? Tôi tin rằng câu trả lời không nằm ở một cơ chế toàn cầu, mà nằm ở việc tạo ra các cơ chế khuyến khích tốt hơn. Trong lĩnh vực bảo mật thông tin, chúng tôi có một khái niệm gọi là "lỗ hổng trách nhiệm hữu hạn" (limited liability vulnerability). Đó là khi một doanh nghiệp hoặc cá nhân chịu trách nhiệm tài chính nếu họ không thực hiện các biện pháp bảo mật phù hợp. Điều này thúc đẩy họ đầu tư vào an toàn. Tương tự, nếu chúng ta có một cơ chế để khiến các công ty AI phải chịu trách nhiệm pháp lý khi các mô hình của họ gây ra tổn hại — không chỉ là khi ai đó sử dụng AI để làm điều xấu, mà là khi một mô hình được triển khai mà không có các biện pháp giảm thiểu rủi ro hợp lý — họ sẽ có động cơ để xây dựng các hệ thống an toàn hơn. Điều này không yêu cầu một tổ chức quốc tế; nó yêu cầu một hệ thống pháp lý hoạt động tốt.
Trong một số lĩnh vực, chúng ta đã thấy cách tiếp cận này hoạt động. Hãy nhìn vào ngành hàng không. Sau mỗi vụ tai nạn, các cơ quan quản lý yêu cầu các hãng hàng không và nhà sản xuất máy bay phải thực hiện các thay đổi để đảm bảo an toàn. Điều này không dựa trên một cơ chế quốc tế duy nhất; nó dựa trên sự kết hợp giữa các quy định quốc gia, các tiêu chuẩn ngành, và các cơ chế pháp lý để khiến các bên liên quan phải chịu trách nhiệm. Tại sao AI lại không thể được quản lý theo cách tương tự? Không phải tất cả các mô hình AI đều nguy hiểm — thậm chí hầu hết các mô hình AI đều không nguy hiểm. Nhưng một số mô hình có thể gây ra những rủi ro đáng kể, và chúng ta cần có các cơ chế để xác định và giảm thiểu những rủi ro đó.
Tôi không phải là một người bi quan về AI. Tôi đã dành 12 năm trong lĩnh vực công nghệ, và tôi tin rằng AI có thể mang lại những lợi ích to lớn cho nhân loại — từ việc chẩn đoán bệnh sớm hơn, đến việc tối ưu hóa các chuỗi cung ứng, đến việc tạo ra các sản phẩm sáng tạo mới. Nhưng tôi cũng tin rằng có một sự khác biệt lớn giữa việc lạc quan về công nghệ và việc ngây thơ về những rủi ro mà nó mang lại. Bức thư này đánh dấu một bước ngoặt quan trọng trong cách những người trong ngành AI nhìn nhận về những gì họ đang tạo ra. Nó cho thấy rằng — giống như trong crypto — sự tự tin quá mức vào khả năng của mình để xử lý các tình huống xấu nhất có thể dẫn đến hậu quả nghiêm trọng.
Nếu bạn đã theo dõi tôi đủ lâu, bạn sẽ biết rằng tôi không bao giờ kết thúc một bài viết bằng một câu trả lời rõ ràng. Tôi thích kết thúc bằng một câu hỏi hoặc một góc nhìn khiến bạn phải suy nghĩ. Hôm nay, tôi muốn kết thúc bằng một so sánh. Hãy nhìn một lần nữa vào khoảnh khắc này: cả thế giới đang chìm trong một cuộc chạy đua không ai dám dừng lại, nơi mà các cá nhân thông minh nhất đang kêu gọi một quyền lực lớn hơn để đặt họ vào khuôn khổ. Điều này khiến bạn nghĩ đến điều gì? Vào năm 2008, các ngân hàng lớn nhất thế giới cũng đã làm một điều tương tự: họ yêu cầu các chính phủ giải cứu họ khi hệ thống tài chính đang trên bờ vực sụp đổ, và sau đó họ tiếp tục hoạt động như không có chuyện gì xảy ra. Bức thư này có thể là một lời kêu gọi chân thành để bảo vệ nhân loại khỏi những rủi ro của AI. Hoặc nó có thể là một bước đi chiến lược của các tập đoàn lớn để củng cố quyền lực của họ trong một ngành công nghiệp đang trở nên quá quan trọng để có thể thất bại.
Sự thật có thể nằm ở giữa. Nhưng một điều chắc chắn: câu chuyện này sẽ không kết thúc với một bức thư. Nó sẽ kết thúc khi chúng ta — với tư cách là một xã hội — quyết định xem chúng ta muốn đối mặt với những rủi ro này theo cách nào. Và câu hỏi đó cũng đang được áp dụng cho crypto, nơi mà các giao thức tài chính phi tập trung đang điều hành hàng tỷ đô la tài sản mà không có một khuôn khổ an toàn nào rõ ràng. Điều này có mang lại cho bạn cảm giác bất an không? Nó nên mang lại, vì cũng giống như AI, chiếc xe crypto đang chạy nhanh hơn bao giờ hết, và hệ thống phanh vẫn đang được thiết kế trong khi đang chạy. Điều quan trọng là chúng ta phải thừa nhận điều đó, thay vì giả vờ rằng mọi thứ đều ổn.
Đã đến lúc chúng ta — những người xây dựng, những nhà đầu tư, những người dùng — phải đối mặt với một thực tế khó chịu: không ai ở vị trí điều khiển. Và việc tìm kiếm một người điều khiển có thể không phải là giải pháp mà là một phần của vấn đề.