Bài 1 · Trợ lý AI đang làm gì khi nó trả lời bạn

Mô hình ngôn ngữ lớn (large language model) là thứ nằm bên dưới phần lớn trợ lý AI bạn đang gặp. Người ta dựng nó bằng cách cho một chương trình đọc một khối văn bản rất lớn, rồi luyện cho nó một việc: cho trước một đoạn chữ, đoán xem đoạn chữ hợp lý đi tiếp là gì. Luyện đi luyện lại rất nhiều lần, nó thành ra giỏi việc đoán ấy.

Khi bạn gõ một câu hỏi, thứ cái máy nhận được không phải là một câu hỏi theo nghĩa bạn hiểu. Nó nhận được một đoạn chữ, và việc của nó là dựng tiếp đoạn chữ hợp lý đi sau. Câu trả lời ra đời từng mảnh một, mỗi mảnh chọn theo những mảnh đã có trước nó.

Hãy so với một thứ bạn quen hơn: tra một bảng tra. Bạn mở bảng, tìm dòng, đọc giá trị. Nếu bảng không có dòng đó thì bạn không đọc được gì, và chính chỗ không đọc được ấy là một thông tin có ích: thứ bạn cần không nằm trong bảng này. Một kho dữ liệu cũng vậy, hỏi một mã không có thì nó trả về chỗ trống.

Trợ lý AI không có chỗ trả về trống. Nó luôn dựng được một đoạn chữ hợp lý, vì dựng chữ hợp lý chính là việc nó làm. Thiếu chất liệu thì nó vẫn dựng, chỉ là dựng từ những mảnh gần giống. Hỏi về một tiêu chuẩn có thật thì nó dựng ra câu nói về tiêu chuẩn ấy. Hỏi về một tiêu chuẩn không tồn tại, mà bạn đặt cho một cái tên nghe hợp lý, thì nó cũng dựng ra một câu nghe hợp lý y như vậy.

Có một chỗ cần nói rõ, vì nó hay gây nhầm. Nhiều trợ lý ngày nay được gắn thêm công cụ: chúng tra trên mạng được, đọc được tệp bạn đưa lên, chạy được phép tính. Những thứ gắn thêm đó làm chất liệu đầu vào tốt hơn hẳn, và làm lỗi ít đi. Nhưng phần dựng ra câu trả lời vẫn là phần đoán chữ. Công cụ gắn thêm đưa thêm chất liệu vào, chứ không đổi cách máy ghép chữ lại với nhau. Nên cách nghĩ trong bài này vẫn đúng với cả những trợ lý đã được gắn công cụ.

Cái máy được rèn để đoạn chữ nó viết ra giống văn người viết: đúng ngữ pháp, mạch lạc, đi thẳng vào câu hỏi, có thứ lớp. Người ta đo nó bằng mức giống ấy, và chỉnh nó cho tới khi đạt.

Nó không được rèn để biết lúc nào mình đang không biết. Đây là chỗ nên dừng lại một chút, vì nó đi ngược phản xạ của bạn.

Khi một người không chắc, giọng họ đổi. Họ nói chậm lại, nói vòng, chêm vào «hình như», «tôi nghĩ là», «để tôi xem lại đã». Bạn đọc những dấu hiệu đó từ nhỏ, và đọc mà không cần cố ý. Nghe ai đó nói chắc nịch, có số, có tên, có ngày tháng, bạn tự cho rằng người ấy đã kiểm trước khi nói.

Với trợ lý AI, mối liên hệ ấy đứt. Câu đúng và câu sai ra đời bằng cùng một cơ chế ghép chữ, nên chúng giống nhau ở bề ngoài. Cùng một giọng điềm tĩnh, cùng lối trình bày gọn gàng, cùng những con số trông như đã tra. Mức chắc chắn trong giọng văn của máy không đo mức chắc chắn của nội dung. Nó chỉ là một đặc tính của văn phong mà máy đã học được từ văn bản của người.

Giới nghề gọi phần nội dung máy dựng ra nghe như thật mà không có thật là nội dung bịa (hallucination). Chữ tiếng Anh ấy hơi dễ gây hiểu nhầm, vì nó gợi ý rằng máy đang ở một trạng thái bất thường. Thật ra không phải. Máy vẫn đang làm đúng việc nó được luyện, là ghép chữ hợp lý. Nội dung bịa không phải là lúc máy hỏng, mà là lúc việc máy làm không trùng với việc bạn cần.

Hệ quả thực tế rất đáng nhớ: bạn không bắt được loại lỗi này bằng cách đọc kỹ hơn. Đọc kỹ hơn giúp bạn bắt câu lủng củng, câu lạc đề, câu tự mâu thuẫn với câu trên. Nó không giúp bạn bắt một con số bịa hay một nguồn không có thật, vì những thứ ấy không để lại dấu vết nào trong văn bản. Muốn bắt thì phải đi ra ngoài văn bản mà đối chiếu. Cách làm việc đó là nội dung của bài 4 trong lớp này.

Một câu trả lời trông như một khối liền. Thật ra nó được ghép từ ba loại chất liệu khác nhau, và ba loại ấy không đáng tin như nhau. Tách được chúng ra là việc có ích nhiều nhất mà bạn học ở bài này.

Loại thứ nhất là thứ bạn đưa vào. Câu hỏi bạn viết, đoạn tài liệu bạn dán vào, tệp bạn đưa lên, số liệu bạn gõ ra. Máy có sẵn chất liệu này trước mắt. Nên khi nó tóm tắt, sắp xếp lại hay diễn đạt lại phần này, bạn kiểm rất nhanh: đối chiếu với bản gốc đang nằm trong tay bạn. Đây là loại chất liệu đáng tin hơn cả, và cũng là loại bạn chủ động làm cho nhiều lên được.

Loại thứ hai là thứ nằm sẵn trong phần máy đã học. Kiến thức chung đã được viết ra nhiều lần ở nhiều nơi: định nghĩa một khái niệm phổ biến, nguyên lý của một phương pháp quen thuộc, cách người ta thường làm một việc. Phần này hay đúng ở mức chung, vì nó được lặp lại nhiều nên máy học được chắc. Nhưng nó có hai giới hạn. Nó dừng ở mốc thời gian của khối văn bản dùng để luyện, nên thứ xảy ra sau mốc ấy thì máy không có. Và nó mỏng dần khi bạn đi vào chỗ ít người viết: một quy định của Việt Nam vừa được sửa, giá vật tư ở một vùng, thói quen của một nhóm người mua hẹp.

Loại thứ ba là thứ máy dựng thêm tại chỗ. Khi hai loại trên không đủ để ghép thành một câu trả lời trôi chảy, máy vẫn phải ghép tiếp, và phần ghép thêm ấy được dựng theo hình dạng của những thứ giống nó. Một số hiệu tiêu chuẩn đúng kiểu. Một con số đúng cỡ. Một cái tên đúng vần. Đây là loại ít đáng tin nhất, và trớ trêu là nó thường trông sắc nét nhất, vì thứ cụ thể bao giờ cũng nghe thuyết phục hơn thứ chung chung.

Ba loại này không được dán nhãn trong câu trả lời. Máy không nói cho bạn biết câu nào thuộc loại nào. Việc tách ba loại là việc của bạn, và bạn làm được, vì bạn là người biết mình đã đưa vào những gì.

Chất liệu của trợ lý AI là văn bản. Nó chưa bao giờ đứng trong xưởng của bạn, chưa cầm sản phẩm của bạn lên tay, chưa nhìn một người mua lưỡng lự trước quầy hàng. Thứ nó có là chữ người khác đã viết về những việc gần giống việc của bạn.

Điều này sinh ra một tính chất bạn nên nhớ: câu trả lời của nó nghiêng về chỗ trung bình. Nó gom những gì đã được viết nhiều rồi trả về cái hay gặp. Với một câu hỏi chung thì đó là điểm mạnh, vì cái hay gặp thường cũng là cái đúng. Với một câu hỏi riêng thì đó là điểm yếu, vì sản phẩm của bạn khác chỗ khác đúng ở những chi tiết ít được viết ra.

Có ba vùng mà chất liệu luôn mỏng, và bạn nên dè chừng sẵn.

Vùng thứ nhất là thứ chưa ai viết. Ràng buộc thật của xưởng bạn đặt gia công, máy móc nơi ấy đang có, dung sai họ giữ được thật, thời gian họ cần để đổi khuôn. Những thứ này sống trong đầu người và trong sổ tay của xưởng, không nằm trong sách.

Vùng thứ hai là thứ viết bằng tiếng ít người dùng, hoặc viết ở nơi ít được thu thập. Tài liệu kỹ thuật bằng tiếng Việt ít hơn tài liệu bằng tiếng Anh rất nhiều lần. Nên với một câu hỏi đặt trong bối cảnh Việt Nam, phần chất liệu đã học của máy mỏng hơn hẳn so với cùng câu hỏi ấy đặt trong bối cảnh Hoa Kỳ hay châu Âu. Điều này không có nghĩa là câu trả lời sẽ sai, mà có nghĩa là phần máy phải dựng thêm sẽ nhiều hơn.

Vùng thứ ba là thứ người ta không viết ra vì nó hiển nhiên với người trong nghề. Người thợ không viết lại lý do mình luôn đặt tay vào đúng chỗ ấy. Người bán hàng không viết lại vì sao khách hay hỏi câu kia trước. Thứ hiển nhiên với người trong cuộc là thứ gần như không bao giờ vào văn bản, nên cũng không bao giờ vào máy.

Ba vùng này là lý do bài cuối của lớp nói rằng trợ lý AI không thay được việc đi gặp người dùng. Không phải vì máy kém, mà vì thứ bạn cần biết ở đó chưa từng được ai viết ra cho máy đọc.