AI bịa nguồn khoa học vì chatbot không đi tra một thư viện nào cả: nó viết ra chuỗi chữ có khả năng xuất hiện cao nhất sau câu hỏi của bạn, và một trích dẫn khoa học chỉ là một chuỗi chữ có khuôn rất đều. Tên tác giả, năm, tên bài, tên tạp chí, số trang đều có mẫu quen thuộc, nên mô hình ráp được một tài liệu trông y như thật mà không có bài báo nào đứng sau.
Bài này dành cho học sinh làm dự án, sinh viên năm đầu và giáo viên hướng dẫn, những người lần đầu thấy một danh mục tham khảo do chatbot đưa ra mà không tìm được bài nào. Hiểu cơ chế không làm bạn hết bị lừa, nhưng giúp bạn biết lúc nào nguy cơ cao nhất, để dồn thời gian kiểm vào đúng chỗ thay vì nghi ngờ mọi thứ như nhau.
Chatbot không tra cứu, nó đoán chữ tiếp theo
Một mô hình ngôn ngữ lớn được huấn luyện trên một khối văn bản khổng lồ để làm đúng một việc: đoán từ tiếp theo sao cho câu đọc lên hợp lý. Trong quá trình đó nó nhìn thấy hàng triệu danh mục tham khảo, nên nó học rất kỹ hình dạng của một trích dẫn. Nó biết sau họ tác giả thường là năm trong ngoặc, sau năm là tên bài viết hoa chữ đầu, sau đó là tên tạp chí in nghiêng, rồi số tập, số trang. Thứ nó không có là một bảng tra để đối chiếu xem tổ hợp ấy có thật hay không.
Khi bạn hỏi kiến thức phổ biến, phần đoán thường trùng với sự thật vì sự thật đó lặp lại rất nhiều lần trong dữ liệu. Nhưng một bài báo cụ thể về ảnh hưởng của tiếng ồn giao thông lên giấc ngủ học sinh ở một thành phố cụ thể thì có thể chỉ xuất hiện vài lần, hoặc chưa từng có. Mô hình vẫn phải trả lời, và cách trả lời "trơn" nhất là ghép một tên tác giả hay gặp trong lĩnh vực với một tiêu đề nghe hợp đề tài.
Vì vậy gọi đây là "nói dối" thì không đúng hẳn. Mô hình không biết là mình đang bịa; nó chỉ không phân biệt được giữa nhớ và tạo. Giới nghiên cứu hay gọi hiện tượng này là ảo giác. Với người làm nghiên cứu, cách gọi không quan trọng bằng hệ quả: câu trả lời tự tin và câu trả lời bịa trông giống hệt nhau trên màn hình.
Một trích dẫn bịa được lắp ráp từ những mảnh nào
Nhìn kỹ một trích dẫn bịa, bạn sẽ thấy nó thường không bịa từ con số không mà ghép những mảnh có thật theo cách sai. Bảng dưới là các mảnh hay gặp, dựa trên một ví dụ giả định.
| Thành phần | Vì sao trông thật | Chỗ thường lệch |
|---|---|---|
| Tên tác giả | Lấy tên người có thật hay viết trong lĩnh vực, hoặc ghép họ phổ biến với tên phổ biến | Người đó có thật nhưng chưa từng viết bài này, hoặc thứ tự tác giả bị đảo |
| Năm xuất bản | Chọn năm nằm trong giai đoạn đề tài được quan tâm | Năm sau ngày tạp chí ngừng xuất bản, hoặc trước khi khái niệm đó ra đời |
| Tên bài | Dùng đúng thuật ngữ của ngành, câu chữ chuẩn văn phong học thuật | Quá khớp với câu hỏi của bạn, như thể ai đó viết bài để trả lời đúng câu đó |
| Tên tạp chí | Tạp chí có thật, uy tín, đúng chuyên ngành | Tạp chí không đăng loại đề tài này, hoặc tên tạp chí bị ghép từ hai tạp chí khác nhau |
| Số tập, số trang, mã định danh | Đúng định dạng, đủ chữ số | Mã định danh trỏ sang bài khác hoặc không trỏ đến đâu |
Điều đáng chú ý là cột giữa: mỗi mảnh đều hợp lý khi đứng riêng. Chỉ khi ghép lại và đem đi tra thì mới lộ ra không có bài nào như vậy. Đây là lý do một người đọc lướt, kể cả người có kinh nghiệm, vẫn bị qua mặt nếu không kiểm.
Những lúc chatbot dễ bịa nguồn nhất
Khi bạn đòi đúng số lượng. Câu lệnh kiểu "cho năm bài báo chứng minh điều này" buộc mô hình phải trả về năm mục. Nếu nó chỉ "nhớ" được hai, ba mục còn lại rất dễ là lắp ráp.
Khi đề tài hẹp hoặc gắn với một địa phương. Nghiên cứu về Việt Nam, về một tỉnh, một loài cây bản địa, một nhóm học sinh cụ thể ít xuất hiện trong dữ liệu huấn luyện so với đề tài toàn cầu. Càng hẹp, phần đoán càng lớn.
Khi bạn hỏi kèm kết luận sẵn. Hỏi "nghiên cứu nào chứng minh uống trà xanh giúp học tốt hơn" là đã gợi ý câu trả lời. Mô hình có xu hướng chiều theo giả định của người hỏi và tìm cách đưa ra bằng chứng ủng hộ.
Khi cần số liệu chính xác. Phần trăm, cỡ mẫu, năm khảo sát, giá trị trung bình là những thứ mô hình hay làm tròn, đổi chỗ hoặc gán nhầm sang nghiên cứu khác.
Khi đề tài mới hơn dữ liệu huấn luyện. Mỗi mô hình chỉ học đến một thời điểm. Hỏi về phát hiện gần đây mà công cụ không tìm web thì nó chỉ có thể suy diễn.
Khi hội thoại đã dài. Sau nhiều lượt trao đổi, mô hình có thể trộn thông tin bạn đưa vào với thông tin nó tự tạo, rồi trình bày như một nguồn thống nhất.
Có chức năng tìm kiếm rồi vẫn có thể sai
Nhiều công cụ hiện nay có thể tìm trên mạng hoặc trong một kho bài báo rồi gắn đường dẫn bên cạnh câu trả lời. Điều này giảm hẳn tỷ lệ bịa tên bài, nhưng không đưa nguy cơ về không. Lỗi chuyển từ "bài không tồn tại" sang những dạng khó thấy hơn: bài có thật nhưng không nói điều chatbot gán cho nó, câu trả lời lấy ý từ một nguồn mà gắn đường dẫn sang nguồn khác, hoặc nguồn được tìm thấy là một trang tổng hợp chép lại chứ không phải nghiên cứu gốc.
Một dạng lỗi khác là công cụ chỉ đọc phần tóm tắt hoặc đoạn trích ngắn hiển thị công khai, rồi suy ra kết luận cho cả bài. Bài báo khoa học thường có những giới hạn quan trọng nằm trong phần bàn luận, mà phần tóm tắt không nhắc. Câu trả lời vì thế đúng chữ nhưng sai tinh thần.
Tính năng của từng công cụ thay đổi theo phiên bản, nên bạn đừng dựa vào trí nhớ rằng công cụ này "có tìm web". Hãy xem câu trả lời cụ thể có kèm nguồn bấm mở được hay không, và mở thật ra đọc. Nguồn mà bạn chưa mở thì vẫn chỉ là lời hứa.
Thử một lần để tự thấy: bài tập mười lăm phút
Cách nhanh nhất để thôi tin mù quáng là tự chứng kiến chatbot bịa. Giáo viên có thể cho cả lớp làm bài tập này trong một tiết, mỗi nhóm một đề tài khác nhau.
- Chọn một đề tài hẹp gắn với nơi bạn sống, ví dụ ảnh hưởng của mặn xâm nhập lên vườn rau ở Cà Mau hay tiếng ồn quanh trường học ở Hải Phòng.
- Hỏi chatbot: "Liệt kê năm bài báo khoa học về đề tài này, ghi đủ tác giả, năm, tên bài và tên tạp chí." Không cho phép tìm web nếu công cụ có lựa chọn đó.
- Chép danh sách ra giấy, mỗi bài một dòng, để trống một cột "kết quả kiểm".
- Với từng bài, tìm tên bài chính xác trong một công cụ tìm kiếm học thuật miễn phí. Ghi lại: tìm thấy đúng, tìm thấy bài gần giống, hoặc không tìm thấy.
- Với bài tìm thấy, đối chiếu tác giả, năm và tạp chí. Một chỗ lệch cũng ghi lại.
- Cả lớp cộng kết quả và thảo luận: bài nào sai hoàn toàn, bài nào sai một phần, sai ở mảnh nào.
Kết quả mỗi lần làm sẽ khác nhau tuỳ công cụ và đề tài, nên đừng biến bài tập thành phép đo tỷ lệ bịa. Mục tiêu chỉ là để từng người tận mắt thấy một danh mục rất chuyên nghiệp vẫn có thể rỗng ruột. Khi nhập đề tài, đừng ghi tên thật của học sinh hay tên trường vào câu lệnh; đề tài là đủ.
Hiểu đúng để dùng đúng: AI hợp với việc gì trong khâu tài liệu
Biết cơ chế rồi, bạn không cần bỏ chatbot mà chỉ cần giao đúng việc. Những việc dưới đây AI làm khá tốt vì không đòi hỏi nó phải nhớ chính xác một tài liệu cụ thể.
- Gợi ý từ khoá tiếng Việt và tiếng Anh để bạn tự tìm trong cơ sở dữ liệu học thuật.
- Giải thích một thuật ngữ, một phương pháp mà bạn gặp khi đọc bài báo thật.
- Đọc một bài báo bạn đã có trong tay và giúp bạn lập dàn ý các phần chính, sau đó bạn đối chiếu với bản gốc.
- Gợi ý các khía cạnh của đề tài mà bạn chưa nghĩ tới, để bạn đi tìm nguồn cho từng khía cạnh.
- Định dạng lại một trích dẫn bạn đã kiểm, theo một kiểu trích dẫn cho trước, rồi bạn soát lần cuối.
- Đặt câu hỏi phản biện cho lập luận của bạn, để bạn biết cần thêm bằng chứng ở đâu.
Ngược lại, việc "liệt kê giúp danh sách tài liệu tham khảo" là việc nên giao cho cơ sở dữ liệu học thuật, không phải cho chatbot. Câu này nếu viết lại đúng cách là "gợi ý từ khoá để bạn tự tìm", và chỉ đổi cách hỏi như vậy đã cắt bớt phần lớn rủi ro.
Giải thích cho học sinh và đồng nghiệp thế nào cho dễ nhớ
Với học sinh, một hình ảnh dễ nhớ là người kể chuyện có trí nhớ rất tốt về giọng văn nhưng kém về chi tiết. Hỏi người đó về một bài báo, họ sẽ kể lại rất trôi chảy, đúng kiểu người làm khoa học hay nói, nhưng tên người, năm và con số có thể lẫn lộn. Nghe hay không có nghĩa là đúng; muốn biết đúng thì phải xem bản gốc.
Với giáo viên và đồng nghiệp, nên nói thẳng rằng không ai, kể cả người dày kinh nghiệm, nhìn bằng mắt mà phân biệt được trích dẫn thật với trích dẫn bịa một cách chắc chắn. Cách duy nhất đáng tin là tra. Điều này giúp tránh hai thái cực: hoặc tin hết vì trông chuyên nghiệp, hoặc buộc tội học sinh gian lận chỉ vì một trích dẫn trông lạ.
Một quy ước nhóm có thể áp dụng ngay là: tài liệu nào vào danh mục tham khảo thì phải có người trong nhóm đã mở và đọc ít nhất phần tóm tắt và phần kết quả từ bản gốc. Ghi tên người đã kiểm cạnh từng tài liệu. Quy ước nhỏ này làm việc kiểm thành thói quen, và các bài khác trong danh mục này sẽ đi vào từng bước cụ thể.
Câu hỏi thường gặp
AI bịa nguồn có phải vì nó cố tình nói dối không?
Không. Mô hình ngôn ngữ không có ý định lừa ai; nó sinh ra chuỗi chữ nghe hợp lý nhất dựa trên những gì đã học. Nó không phân biệt được chi tiết mình nhớ đúng với chi tiết mình vừa tạo ra, nên câu bịa được nói với giọng tự tin y như câu thật.
Công cụ AI có gắn đường dẫn nguồn thì có tin hoàn toàn được không?
Chưa. Đường dẫn giảm nguy cơ bịa tên bài nhưng vẫn có thể xảy ra chuyện bài có thật mà không nói điều được gán cho nó, hoặc nguồn chỉ là trang chép lại. Bạn cần mở nguồn, tìm đúng đoạn liên quan và đọc trong ngữ cảnh.
Đề tài nào dễ bị AI bịa tài liệu tham khảo nhất?
Đề tài hẹp, gắn với một địa phương hay một nhóm người cụ thể, đề tài rất mới, và những câu hỏi đòi số liệu chính xác. Đề tài về Việt Nam thường ít dữ liệu hơn đề tài toàn cầu, nên càng cần tra kỹ từng nguồn chatbot đưa ra.
Có câu lệnh nào khiến AI hoàn toàn không bịa nữa không?
Không có câu lệnh nào bảo đảm điều đó. Yêu cầu AI nói rõ khi không chắc, hoặc chỉ dùng tài liệu bạn đưa vào, có thể giảm rủi ro. Nhưng việc kiểm từng nguồn trong cơ sở dữ liệu học thuật vẫn là bước không bỏ được.
Học sinh nộp danh mục tham khảo có nguồn bịa thì có phải gian lận không?
Cần tìm hiểu trước khi kết luận. Nhiều học sinh không biết chatbot có thể bịa và tưởng danh sách là thật. Giáo viên nên hỏi em đã tìm nguồn bằng cách nào, hướng dẫn cách kiểm và đặt quy ước rõ cho lần sau, thay vì xử lý ngay như hành vi cố ý.
Vậy có nên cấm dùng AI khi tìm tài liệu không?
Không nhất thiết. AI hữu ích để gợi ý từ khoá, giải thích thuật ngữ, giúp đọc bài báo bạn đã có. Điều cần đổi là thói quen: dùng AI để định hướng việc tìm, còn danh sách tài liệu cuối cùng phải đến từ cơ sở dữ liệu học thuật và được người học tự mở đọc.