Hiểu bài viết dài của Vitalik: Tại sao người thông minh nên tuân thủ "quy tắc ngốc nghếch"?

Những lý thuyết “bộ não thiên hà” nghe như có thể giải thích mọi thứ thường là cái cớ nguy hiểm nhất cho mọi vấn đề. Ngược lại, những quy tắc “kháng cự cao” nghe có vẻ cứng nhắc, giáo điều lại là phòng tuyến cuối cùng ngăn chúng ta tự lừa dối bản thân.

Tác giả: Zhixiong Pan

Vài tuần trước, Vitalik đã đăng tải bài viết Galaxy Brain Resistance, thực ra khá khó hiểu và mình cũng chưa thấy ai giải thích rõ ràng, nên mình sẽ thử phân tích.

Dù sao thì mình thấy Karpathy, người sáng tạo ra cụm từ Vibe Coding, cũng đã đọc và ghi chú lại bài viết này, chắc chắn nó có điều gì đó đặc biệt.

Trước tiên, hãy nói về tiêu đề: Galaxy Brain và Resistance nghĩa là gì, hiểu được tiêu đề này thì bạn sẽ nắm được đại ý của bài viết.

1️⃣ Galaxy Brain dịch sang tiếng Việt là “bộ não thiên hà”, nhưng thực ra nó xuất phát từ một meme trên Internet, kiểu như hình ảnh (🌌🧠) ghép lại với nhau, chắc chắn bạn đã từng thấy.

Ban đầu, đây là một lời khen, dùng để ca ngợi ý tưởng của ai đó rất tuyệt vời, tức là thông minh. Nhưng sau này, khi dùng quá nhiều, nó dần trở thành một kiểu mỉa mai, ý là “nghĩ quá nhiều, logic vòng vo quá xa”.

Vitalik nhắc đến 🌌🧠 ở đây, ý chỉ kiểu “dùng trí thông minh để bẻ cong logic, biến những điều vô lý thành có lý”. Ví dụ:

- Rõ ràng là sa thải hàng loạt để tiết kiệm chi phí, nhưng lại nói là “đưa nhân tài chất lượng cao ra xã hội”.

- Rõ ràng là phát hành token rác để lùa gà, nhưng lại tuyên bố là “trao quyền cho nền kinh tế toàn cầu bằng quản trị phi tập trung”.

Tất cả đều có thể coi là kiểu tư duy “bộ não thiên hà”.

2️⃣ Vậy Resistance (kháng cự) nghĩa là gì? Khái niệm này khá dễ gây nhầm lẫn, có thể hiểu nôm na là “khả năng chống bị dắt mũi”, hoặc “khả năng chống bị lừa”.

Vậy nên Galaxy Brain Resistance nên hiểu là Resistance to [becoming] Galaxy Brain, tức là “khả năng chống lại việc trở thành bộ não thiên hà (nói linh tinh)”.

Hoặc chính xác hơn, nó dùng để mô tả mức độ dễ dàng mà một kiểu tư duy/lý luận bị lạm dụng để “chứng minh bất cứ điều gì bạn muốn”.

Vậy nên “kháng cự” này có thể áp dụng cho một “lý thuyết” nào đó, ví dụ:

- Lý thuyết có kháng cự thấp (Low Resistance): chỉ cần suy luận một chút là có thể biến thành logic “bộ não thiên hà” cực kỳ phi lý.

- Lý thuyết có kháng cự cao (High Resistance): dù bạn có suy luận thế nào, nó vẫn giữ nguyên bản chất, rất khó bị biến thành logic phi lý.

Ví dụ, Vitalik nói rằng, trong xã hội lý tưởng của anh ấy, luật pháp nên có một ranh giới đỏ: chỉ khi nào có thể giải thích rõ ràng một hành vi gây hại hoặc rủi ro cụ thể cho nạn nhân thì mới được cấm. Tiêu chuẩn này có kháng cự “bộ não thiên hà” rất cao, vì nó không chấp nhận những lý do mơ hồ như “tôi không thích”, “trái với thuần phong mỹ tục”.

3️⃣ Vitalik còn đưa ra nhiều ví dụ, thậm chí lấy những lý thuyết phổ biến như “chủ nghĩa dài hạn” và “chủ nghĩa tất yếu”.

“Chủ nghĩa dài hạn” rất khó chống lại sự xâm nhập của tư duy 🌌🧠, vì nó có kháng cự cực thấp, gần như là một “tấm séc trắng”. Bởi vì “tương lai” quá xa vời, quá mơ hồ.

- Cách nói có kháng cự cao: “Cây này sau 10 năm sẽ cao thêm 5 mét”. Điều này có thể kiểm chứng, không dễ nói linh tinh.

- Chủ nghĩa dài hạn kháng cự thấp: “Dù bây giờ tôi phải làm một việc vô cùng phi đạo đức (ví dụ loại bỏ một nhóm người, hoặc phát động chiến tranh), nhưng đó là để nhân loại có cuộc sống utopia sau 500 năm nữa. Theo tính toán của tôi, tổng hạnh phúc trong tương lai là vô hạn, nên hy sinh hiện tại không đáng kể.”

Bạn thấy không, chỉ cần kéo dài thời gian đủ lâu, bạn có thể biện hộ cho bất kỳ hành động xấu nào ở hiện tại. Như Vitalik nói: “Nếu lập luận của bạn có thể chứng minh bất cứ điều gì là hợp lý, thì nó chẳng chứng minh được gì cả.”

Tuy nhiên, Vitalik cũng thừa nhận “tương lai rất quan trọng”, anh ấy chỉ phê phán việc “dùng lợi ích mơ hồ, không thể kiểm chứng trong tương lai để che lấp tổn hại rõ ràng ở hiện tại”.

Một lĩnh vực khác cũng bị ảnh hưởng nặng là “chủ nghĩa tất yếu” (Inevitabilism).

Đây cũng là chiêu bài phòng thân ưa thích của giới công nghệ và Silicon Valley.

Lý lẽ thường là: “AI thay thế công việc của con người là điều tất yếu của lịch sử, dù tôi không làm thì người khác cũng làm. Vậy nên tôi phát triển AI mạnh mẽ không phải để kiếm tiền, mà là thuận theo xu thế lịch sử.”

Kháng cự thấp ở đâu? Nó hoàn toàn xóa bỏ trách nhiệm cá nhân. Nếu đã là “tất yếu”, thì tôi không cần chịu trách nhiệm cho những tổn hại mình gây ra.

Đây cũng là một kiểu bộ não thiên hà điển hình: biến “tôi muốn kiếm tiền/tôi muốn quyền lực” thành “tôi đang thực hiện sứ mệnh lịch sử”.

4️⃣ Vậy đối mặt với những “cái bẫy của người thông minh” này, chúng ta nên làm gì?

Giải pháp của Vitalik lại bất ngờ đơn giản, thậm chí có phần “ngốc nghếch”. Anh ấy cho rằng, càng thông minh càng cần những quy tắc có kháng cự cao để tự ràng buộc, tránh để trí tuệ của mình đi quá xa.

Thứ nhất, giữ vững “đạo đức bổn phận” (Deontological Ethics), tức là những quy tắc đạo đức cơ bản như trẻ con cũng biết.

Đừng tính toán những bài toán phức tạp kiểu “vì tương lai nhân loại”, hãy quay về những nguyên tắc cứng nhắc nhất:

- Không trộm cắp

- Không giết người vô tội

- Không lừa đảo

- Tôn trọng tự do của người khác

Những quy tắc này có kháng cự cực cao. Vì chúng rõ ràng, không thể thương lượng. Khi bạn cố dùng lý lẽ “chủ nghĩa dài hạn” để biện minh cho việc chiếm dụng tiền của người dùng, quy tắc “không trộm cắp” sẽ lập tức phản bác: trộm là trộm, đừng viện cớ cho cuộc cách mạng tài chính vĩ đại nào cả.

Thứ hai, giữ vị trí đúng đắn, thậm chí cả vị trí vật lý.

Người ta vẫn nói “mông quyết định cái đầu”. Nếu bạn suốt ngày ở trong “phòng vang vọng” tại khu vực vịnh San Francisco, xung quanh toàn là những người theo chủ nghĩa tăng tốc AI, bạn rất khó giữ được tỉnh táo. Vitalik thậm chí còn đưa ra lời khuyên vật lý có kháng cự cao: đừng sống ở khu vực vịnh San Francisco.

5️⃣ Tóm tắt

Bài viết này của Vitalik thực ra là lời cảnh báo tới những người cực kỳ thông minh: đừng nghĩ rằng vì bạn thông minh mà có thể vượt qua những giới hạn đạo đức cơ bản.

Những lý thuyết “bộ não thiên hà” nghe như có thể giải thích mọi thứ thường là cái cớ nguy hiểm nhất cho mọi vấn đề. Ngược lại, những quy tắc “kháng cự cao” nghe có vẻ cứng nhắc, giáo điều lại là phòng tuyến cuối cùng ngăn chúng ta tự lừa dối bản thân.