AI không nguy hiểm vì nó mạnh, mà vì nó tiện

Cái AI lấy đi không phải việc làm, không phải tốc độ, không phải sản lượng. Cái nó lấy đi là năng lực tư duy — và năng lực, khác với thông tin, không tải lại được bằng 1 cú click chuột.

Bài này không bàn AI có thay được con người hay không. Nó bàn một thứ âm thầm hơn: chuyện gì xảy ra với chính cách ta suy nghĩ, khi ta làm việc cạnh AI đủ lâu.

AI thực ra là gì

Những AI như ChatGPT, Claude, Gemini học từ hàng tỷ đoạn văn trên internet, rồi tạo câu trả lời bằng cách đoán chữ tiếp theo dựa trên những khuôn mẫu đã học. Nói cho gọn: nó không hiểu — nó khớp khuôn mẫu.

Hãy hình dung AI như một cố vấn đọc cực rộng nhưng chưa từng đi làm ngày nào. Nó luôn trả lời được, luôn nói trôi chảy, luôn dùng đúng thuật ngữ. Nhưng lời khuyên của nó phản ánh cái mà số đông đang làm — không phải cái đúng với hoàn cảnh riêng của bạn.

Bài học từ McNamara

Có một sai lầm kinh điển trong khoa học quản lý mang tên một con người, và nó mô tả gần như hoàn hảo cái bẫy khi dùng AI.

Robert McNamara là Bộ trưởng Quốc phòng Mỹ những năm 1960, trước đó là chủ tịch hãng Ford — một người tiên phong của lối quản lý dựa trên số liệu. Triết lý của ông gói trong một câu: đo được thì quản được.

Khi phụ trách chiến tranh Việt Nam, ông áp dụng đúng triết lý đó. Mọi báo cáo chiến trường phải quy về con số: số địch bị diệt, số vũ khí thu được, số làng “bình định”, số bom đã thả. Những con số ấy được tổng hợp hàng tuần và dùng làm cơ sở cho quyết định chiến lược. Theo mọi chỉ số định lượng, Mỹ đang thắng.

Kết quả thực tế thì ngược lại. Và Mỹ không thua vì tính sai một phép tính nào — Mỹ thua vì hiểu sai bản chất cuộc chiến. Những thứ quyết định thắng bại — ý chí của đối phương, sự ủng hộ của dân làng, tính chính danh, động lực dân tộc — không đo được bằng số. Vì không nằm trong bảng dữ liệu, chúng coi như không tồn tại trong bức tranh ra quyết định.

Nhà nghiên cứu Daniel Yankelovich mô tả cái bẫy này thành bốn bước, và đọc nó với AI trong đầu thì lạnh người:

Bước một: đo những gì dễ đo. Cái này ổn. Bước hai: bỏ qua những gì không đo được, hoặc gán cho nó một con số tùy tiện. Cái này đã sai lệch. Bước ba: cho rằng cái gì không đo được thì không quan trọng. Đây là mù quáng. Bước bốn: nói rằng cái gì không đo được thì không tồn tại. Đây là tự sát.

AI đẩy ta vào đúng bốn bước đó. Nó trả lời rành rọt những gì có thể diễn đạt thành chữ, và lặng thinh về những gì không. Rồi ta quen dần với việc coi cái nó nói được là toàn bộ những gì đáng kể.

Ba tầng của một căn bệnh

Khi một người — hay cả một tập thể — làm việc với AI lâu dài, có ba tầng sai lệch xuất hiện. Chúng không tách rời, mà chồng lên nhau và nuôi nhau:

Tầng nông nhất là AI nói sai. Tầng giữa là con người tin lời AI. Tầng sâu nhất là con người thay đổi chính cách mình suy nghĩ vì đã quen có AI.

Càng xuống sâu càng khó thấy. Và càng xuống sâu càng nguy, bởi đến lúc phát hiện ra thì thứ đã mất chính là năng lực để phát hiện. Một điều an ủi nhỏ: mức độ được khoa học chứng minh cũng giảm dần khi xuống sâu — tầng trên đã có bằng chứng vững, tầng dưới mới đang được xác lập.

Tầng 1 — Khi AI nói sai

AI không nói thật cũng không nói dối. Nó tạo ra những câu nghe có vẻ đúng. Đôi khi trùng với sự thật, đôi khi không.

Ai cũng bảo “phải có tư duy phản biện khi dùng AI”. Nhưng phản biện chỉ hoạt động được nếu ta nhận ra có gì đó cần phản biện. Khi AI nói sai một cách trôi chảy, mạch lạc và tự tin, rất khó nhận ra chỗ sai — và đã không nhận ra thì lấy gì để phản biện. Ngay cả đối với người có tư duy phản biện thật, khi thông tin đổ về ào ạt dưới áp lực thời gian, liệu còn đủ tỉnh táo không?

Nó bịa ra thứ không có thật. AI có thể kể về một cuốn sách chưa ai viết, một nhân vật chưa từng tồn tại. Nó không bịa vì ác ý — nó bịa vì được thiết kế để luôn có câu trả lời, nên khi không biết, nó vẫn tạo ra một câu. Mức độ này không nhỏ: trong các bài kiểm chuẩn, tỷ lệ bịa đặt dao động khoảng 15–52% tùy lĩnh vực; riêng mảng tóm tắt y tế có thể lên 64%, và một nghiên cứu thấy bản tóm tắt do AI tạo bịa nội dung trong 60% trường hợp. Với truy vấn pháp lý, con số có khi chạm 100%.

Nó gật theo người hỏi, kể cả khi người hỏi sai — tật này có tên là thói nịnh (sycophancy). Bạn càng tỏ ra chắc chắn (“tôi chắc 100%…”, “thầy tôi bảo…”), AI càng ngại bác lại. Và đây là chỗ đắt nhất: khi bạn yêu cầu AI đóng vai “chuyên gia trong lĩnh vực…”, tỷ lệ nịnh càng tăng. Vì cái “chuyên gia” đó không phải chuyên gia thật — nó là chuyên gia trong tưởng tượng của bạn, dựng lên từ những gì bạn muốn nghe. Một chuyên gia thật sẽ hỏi vặn bạn vài trang giấy rồi đưa ra phản đề. Chuyên gia tưởng tượng thì chỉ đưa ra cái bạn đã muốn.

Nó bị neo vào ấn tượng đầu. AI đọc phần đầu câu hỏi nặng ký hơn phần sau. Đặt một tiền đề ở đầu và một phản đề ở cuối, nó thường bị tiền đề ban đầu dắt mũi — y như người phỏng vấn bị ấn tượng đầu quyết định.

Nó tự mâu thuẫn mà không biết. Trong cùng một cuộc trò chuyện, nó có thể nói một đằng rồi vài đoạn sau nói ngược lại, với cùng giọng tự tin. Nó không có “trí nhớ” để biết mình vừa cam kết điều gì.

Nó lặp lại định kiến có sẵn. Học từ chữ con người viết ra, nó hấp thụ luôn mọi thiên kiến, tin đồn, quan điểm lỗi thời trong đó — rồi nhả lại với vẻ ngoài khách quan.

Một phát hiện thú vị: AI càng mạnh thì khi sai, càng sai giống cách con người sai — vơ đũa cả nắm, bám chặt một chi tiết lặp đi lặp lại. Nó không mắc lỗi máy móc, nó mắc lỗi giống một người đang mệt và vội.

Tầng 2 — Khi con người tin AI

Ở tầng này, nguồn gốc sai lệch không còn là AI nữa, mà là người dùng. Giới nghiên cứu gọi đây là thiên kiến tự động hóa (automation bias), đã được nghiên cứu hàng chục năm từ ngành hàng không, trước cả khi có AI.

Tin vì câu trả lời trôi chảy. Não người có một thiên kiến cổ xưa: cái gì được diễn đạt mạch lạc, có cấu trúc, giọng tự tin thì được cho là đúng. AI đáp ứng cả ba hoàn hảo. Hậu quả: một câu trả lời sai nhưng viết hay thường được tin hơn một câu đúng nhưng viết lủng củng từ đồng nghiệp.

Tin vì đỡ phải nghĩ. Suy nghĩ thì mệt. Khi có sẵn một “cơ quan thẩm quyền” đưa ra kết luận, não sẽ giao quyền cho nó — gọi là trút gánh nhận thức (cognitive offloading). Vấn đề là cái được trút đi không chỉ là công việc, mà là khả năng.

Bằng chứng từ y khoa và hàng không thì thẳng thừng. Trong chẩn đoán ung thư vú: những ca mà bác sĩ phát hiện đúng 46% khi làm một mình, chỉ còn phát hiện 21% khi có một hệ thống tự động bị lỗi gợi ý — máy sai làm năng lực của bác sĩ rớt hơn một nửa. Với phi công: khi nhận cảnh báo tự động giả bảo họ tắt động cơ, tất cả đều làm theo — dù chính những phi công ấy, khi được phỏng vấn, khẳng định họ sẽ không phản ứng như vậy. Người ta tưởng mình sẽ độc lập; đối mặt với máy, hành vi thật khác hẳn.

Một nghịch lý khó chịu từ nghiên cứu mới: càng tin vào lợi ích của AI, người ta càng dễ đồng ý sai với nó. Chính niềm tin vào công cụ là nguyên nhân của lỗi. Một thí nghiệm khác về hệ hỗ trợ kê đơn cho thấy: AI có cải thiện độ chính xác chung, nhưng cũng trực tiếp khiến 5,2% số ca chuyển từ đúng sang sai — những ca mà nếu không có AI, bác sĩ đã làm đúng.

Và hai cái bẫy lặng lẽ nhất: ta không phản biện vì AI không phản biện lại. Cãi nhau với một con người thì bị thách thức; “thảo luận” với AI thì nó đi theo ta. Ta tưởng đang tranh luận, thật ra đang độc thoại có trang điểm. Cuối cùng, ta bỏ qua cái AI không nói. Thấy nó liệt kê một danh sách, ta tưởng danh sách đó đầy đủ. Nó không cảnh báo một rủi ro, ta tưởng rủi ro đó không có. Nhưng AI chỉ trả lời đúng câu được hỏi — nó không phải người soát toàn cảnh. Khoảng cách giữa hai thứ đó là nơi sai lầm âm thầm tích lại.

Tầng 3 — Khi tập thể đổi cách suy nghĩ

Đây là tầng sâu nhất, và nó không nói về một sai lầm cụ thể, mà về sự xói mòn từ từ của khả năng tư duy chung.

AI cho cảm giác “đã hiểu” sau mỗi câu hỏi nhỏ. Ngày trước, khi không hiểu một phần của hệ thống, người ta buộc phải làm một trong hai: tự đọc và nối lại các mảnh, hoặc đi hỏi người đã dựng nó. Cả hai đều có chung một điều quý — chúng không cho phép dừng lại ở một mảnh nhỏ. Đọc phần này thì phải lan sang phần kia; hỏi người biết thì họ kể kèm cả bối cảnh. Mỗi lần “không hiểu” là một dịp để nhìn rộng ra.

Giờ thì người ta chỉ cần ném đoạn không hiểu cho AI và hỏi “cái này làm gì?”. AI trả lời gọn gàng, có kết luận. Người hỏi thấy như đã hiểu xong. Nhưng cái họ hiểu chỉ là mảnh nhỏ ấy, tách khỏi mọi thứ liên quan. Cảm giác “đã hiểu” này là giả — và vì nó giả một cách dễ chịu, cả đội thôi cảm thấy cần ngồi lại với nhau để nhìn toàn cảnh thật.

AI không biết nói “tôi không nắm được toàn bộ”. Hỏi một đồng nghiệp giàu kinh nghiệm “chỗ này ảnh hưởng tới đâu?”, người giỏi sẽ nói: “Tôi không chắc, bạn nên hỏi thêm anh X chị Y, có lẽ cần cả nhóm ngồi lại.” Câu đó nhìn qua tưởng vô dụng — nó không giải quyết ngay. Nhưng nó âm thầm tạo ra một cuộc họp: chỉ đích danh người cần có mặt, ép tập thể ngồi lại. AI không nói được câu đó theo cách tạo hành động. Nó viết “bạn nên tham khảo thêm ngữ cảnh” — một lời khuyên nhẹ, không tên ai, không lịch hẹn, không ai chịu trách nhiệm. Câu hỏi vẫn được trả lời, nhưng cuộc họp đáng lẽ phải diễn ra thì không diễn ra nữa.

Quyền tác giả sụp đổ. Khi nhiều người trong một tổ chức dùng AI để làm ra sản phẩm của mình, các sản phẩm vẫn tồn tại nhưng không ai thật sự hiểu chúng. Có người bấm nút tạo ra, có người bấm nút duyệt, nhưng không ai giải thích nổi vì sao nó là thế này mà không phải thế khác. Đến khi có sự cố, không có ai để hỏi — vì không có ai đã thật sự suy nghĩ.

Nghiên cứu nền tảng nhất về chuyện này, của Microsoft Research và Đại học Carnegie Mellon (2025), khảo sát 319 người lao động tri thức và rút ra một quy luật rành mạch: càng tự tin vào AI, người ta càng ít tư duy phản biện; càng tự tin vào bản thân, càng phản biện nhiều hơn. Và bản chất của tư duy phản biện bị đổi: từ chỗ tự phân tích, nó chuyển sang chỉ còn kiểm tra và sắp xếp lại output của AI. Trong phần lớn ví dụ, người ta thấy mình bỏ ra ít nỗ lực trí óc hơn hẳn — 72–79% thừa nhận như vậy.

Cùng với đó, câu “tôi không biết” biến mất. Trước kia, “tôi không biết” tự nhiên dẫn đến hành động: đi tìm, đi hỏi, đi đọc, đi họp. Mỗi lần như thế là một dịp để tập thể cùng xây hiểu biết chung. Khi AI luôn có câu trả lời tức thì, “tôi không biết” mất đi — và mất theo nó là cả cái cơ chế tập thể dùng để tạo ra kiến thức.

Tập thể từ chối ngồi lại, và rồi im lặng về điều quan trọng. Khi mọi câu hỏi cá nhân đều có AI lo, những buổi họp nhìn toàn cảnh bắt đầu có vẻ thừa — dù chính chúng mới là nơi người ta phát hiện giả định ngầm của nhau. Tệ hơn, khi ai đó vẫn thấy vấn đề và cố nêu ra, người đó dễ bị gắn mác “khó tính”, “làm quá”, “chưa bắt kịp thời đại”. Họ bị cô lập, im lặng thành chuẩn mực mới, và một khi im lặng đã thành nếp thì rất khó phá — vì ai mở miệng cũng phải trả một cái giá xã hội.

Và cuối cùng là teo mòn kỹ năng (deskilling). Một kỹ năng không dùng một hai năm sẽ mất. Một thí nghiệm với 117 sinh viên chia ngẫu nhiên thành các nhóm — nhóm dùng ChatGPT, nhóm có người kèm, nhóm có bảng hướng dẫn, nhóm không hỗ trợ — cho kết quả đắt giá: nhóm dùng ChatGPT làm bài tốt ngay lúc đó, nhưng khả năng giữ kiến thức và tư duy độc lập về sau bị ảnh hưởng nghiêm trọng. Các tác giả đặt cho nó một cái tên thẳng thừng: lười siêu nhận thức (metacognitive laziness).

Tầng cực đoan — Khi ranh giới thực tại lung lay

Tầng này hiếm, nhưng đang được ghi nhận trong y văn với một cái tên thận trọng: loạn thần liên quan đến AI (AI-associated psychosis) — “liên quan” chứ không phải “do AI gây ra”, vì quan hệ nhân quả chưa được xác lập. Nó chưa phải một chẩn đoán chính thức, và bản thân giới tâm thần học cũng đang tranh luận.

Vài ca đã được ghi lại: một phụ nữ không có tiền sử bệnh tâm thần rơi vào tư duy ảo tưởng khi dùng chatbot nhập vai, trên nền thiếu ngủ và vài yếu tố nguy cơ khác. Một người đàn ông 47 tuổi tin chắc mình đã khám phá ra một lý thuyết toán học cách mạng, sau khi chatbot liên tục xác nhận và thổi phồng ý tưởng của ông bất chấp mọi phủ nhận từ bên ngoài. Chi tiết đáng sợ nằm ở chỗ: thói nịnh ở tầng 1 cộng với thiên kiến tự động hóa ở tầng 2, gặp một người dễ tổn thương, có thể tạo thành một vòng lặp khuếch đại nguy hiểm.

Về quy mô: một bác sĩ tại UCSF cho biết đã điều trị 12 ca nhập viện cùng dạng. OpenAI ước tính khoảng 0,07% người dùng mỗi tuần có dấu hiệu khẩn cấp liên quan đến loạn thần hoặc hưng cảm — nghe thì nhỏ, nhưng trên hơn 800 triệu người dùng một tuần, con số ấy có thể tương đương hàng trăm nghìn người. Như một bác sĩ nhận xét: các chatbot này mô phỏng quan hệ giữa người với người ở quy mô chưa từng có trong lịch sử.

Ba tầng nuôi nhau

Ba tầng trên không độc lập. Chúng khép thành một vòng xoáy:

AI nói sai → con người không phát hiện vì đã tin → cái sai lọt vào sản phẩm → tập thể thấy “AI chạy tốt” → càng phụ thuộc → con người ngừng tư duy độc lập → năng lực phát hiện sai teo lại → đến khi AI sai nghiêm trọng thì không còn ai đủ tỉnh để nhận ra → quay lại đầu vòng.

Mỗi vòng quay, tập thể mất thêm một chút khả năng. Và vì mất ở tầng sâu — ở chính năng lực nhận thức — nó không hiện ra trong bất kỳ báo cáo hay chỉ số nào. Thường thì các chỉ số bề mặt còn đẹp hơn trước, vì tốc độ sản xuất tăng. Chỉ đến khi xảy ra một sự cố thật lớn, cần một người đủ am hiểu để xử lý, người ta mới phát hiện không còn ai như vậy nữa.

Vì sao khi hỏng thì khó sửa

Lỗi do AI gây ra có vài đặc điểm khiến việc truy vết khó hơn bình thường.

Nó là lỗi im lặng — không chuông báo động, sản phẩm vẫn chạy, chỉ có thứ gì đó bên trong lệch đi một chút và tích lại theo thời gian. Nó không có “mùi lỗi”: lỗi do người cẩu thả thường để lại dấu vết — code bầy hầy, câu chữ lủng củng; còn thứ AI sinh ra thì gọn gàng, chuyên nghiệp, khiến mắt người mất cảnh giác. Không có ai để hỏi: truy tới người ra quyết định, họ chỉ nói “lúc đó AI gợi ý vậy, tôi thấy hợp lý” — không có lý do gốc nào để khôi phục, vì không ai thật sự đã nghĩ. Tài liệu cũng phản ánh hiểu biết của AI: tra tài liệu để hiểu hệ thống, mà tài liệu cũng do AI viết, thì ta đọc được giả định của AI chứ không phải sự thật — càng đọc càng lạc. Và bài kiểm tra sai cùng chiều: nếu phần kiểm thử cũng do AI sinh ra trên cùng giả định với phần chính, thì kiểm tra “đậu” chẳng chứng minh gì — nó chỉ nghĩa là hai phần cùng đồng ý về một thế giới không tồn tại.

Vài câu để tự soi

Về một người. Đã bao lâu rồi người này chưa ngồi một mình với một vấn đề khó trong 30 phút mà không mở AI? Gặp điều chưa biết, phản xạ đầu tiên là đi tìm hiểu hay là hỏi AI? Khi đưa ra một kết luận quan trọng, người này có diễn đạt lại được lý do bằng lời của chính mình không?

Về một tập thể. Trong các cuộc thảo luận, người ta còn lập luận từ hiểu biết cá nhân, hay mọi câu đều phải dựa lưng vào “AI nói rằng…”? Có chủ đề nào hễ ai nêu lên là không khí căng lại, và mọi người tránh? Đã bao lâu rồi cả nhóm chưa cùng nhau vẽ lại bức tranh tổng thể mà không mở máy?

Về một sản phẩm. Có phần nào của nó được làm ra hoàn toàn bởi con người, không AI hỗ trợ? Các tiêu chuẩn chất lượng do ai đặt ra? Nếu đặt cạnh sản phẩm cùng loại của người khác, điều gì là khác biệt thuộc về người làm ra nó mà không sao chép được?

Tóm trong một câu

AI không nguy hiểm vì nó mạnh. Nó nguy hiểm vì nó tiện — và sự tiện đó âm thầm thay thế những quá trình mà con người vẫn dùng để giữ cho mình tỉnh táo, cả ở cấp cá nhân lẫn cấp tập thể.

Cái mất đi không phải thông tin, không phải tốc độ, không phải sản lượng. Cái mất đi là năng lực. Và năng lực, khác với thông tin, không tải lại được.

“Tôi không thể làm cho anh hiểu. Tôi không thể làm cho bất cứ ai hiểu điều gì đang xảy ra bên trong tôi. Tôi thậm chí không thể giải thích nó cho chính mình.” — Franz Kafka, Hóa thân (1915)

Bài viết tổng hợp từ các nghiên cứu: Lee và cộng sự về tư duy phản biện (Microsoft Research & CMU, 2025); các bài kiểm chuẩn của Giskard/Phare về bịa đặt và thói nịnh; nghiên cứu về thiên kiến tự động hóa trong y khoa và hàng không (Lyell & Coiera, Goddard, Mosier & Skitka); “Beware of metacognitive laziness” (British Journal of Educational Technology, 2024); và các báo cáo ca lâm sàng về loạn thần liên quan đến AI từ UCSF và JMIR Mental Health (2025).