AI thực sự là gì? Cách AI học, tạo nội dung và mắc lỗi

Bạn có thể đã sử dụng trí tuệ nhân tạo vài lần trước khi kết thúc bữa sáng. Một dịch vụ email đã chuyển một thư đáng ngờ ra khỏi tầm nhìn. Một bản đồ so sánh các tuyến đường có thể. Camera của điện thoại đã tìm thấy một khuôn mặt hoặc một cái cây. Một dịch vụ âm nhạc đã sắp xếp lại một danh sách. Không có khoảnh khắc nào trong số đó trông giống như một cỗ máy khoa học viễn tưởng. Chúng trông giống như phần mềm thông thường đưa ra phán quyết nhỏ thay mặt bạn.

Đó là một lý do khiến AI có thể cảm thấy khó hiểu hơn bình thường. Giao diện hiển thị câu trả lời nhưng ẩn bộ máy: mục tiêu mà ai đó đã chọn, các ví dụ được sử dụng để xây dựng mô hình, các tín hiệu được cung cấp làm đầu vào và các thử nghiệm xác định xem kết quả có đủ tốt hay không. AI sáng tạo tạo thêm một lớp nhầm lẫn nữa vì nó có thể tự giải thích bằng ngôn ngữ bóng bẩy, ngay cả khi lời giải thích không đầy đủ hoặc sai.

Hướng dẫn này mở ra bộ máy đó mà không giả vờ rằng mọi hệ thống AI đều hoạt động theo cùng một cách. Nó tuân theo một câu hỏi thực tế từ đầu đến cuối: điều gì phải xảy ra trước khi máy có thể biến đầu vào thành đầu ra và bạn nên kiểm tra điều gì trước khi tin tưởng vào kết quả?

Một định nghĩa hữu ích về AI

Định nghĩa cập nhật của OECD mô tả hệ thống AI là một hệ thống dựa trên máy, suy ra từ đầu vào của nó cách tạo ra đầu ra, chẳng hạn như dự đoán, nội dung, đề xuất hoặc quyết định, có thể ảnh hưởng đến môi trường vật lý hoặc ảo. Các hệ thống khác nhau có quyền tự chủ khác nhau và liệu chúng có tiếp tục thích ứng sau khi triển khai hay không.

Động từ quan trọng là suy luận. Máy tính truyền thống tuân theo các quy tắc chỉ định đầy đủ cách biến các con số thành câu trả lời. Một mô hình AI thường xử lý tình huống mà việc viết mọi quy tắc bằng tay sẽ không thực tế. Nó ước tính kết quả đầu ra hữu ích từ các mẫu, ràng buộc hoặc các mối quan hệ đã học. Kết quả đầu ra đó có thể xuất sắc, tầm thường hoặc gây hiểu nhầm một cách nguy hiểm tùy thuộc vào nhiệm vụ và điều kiện.

Do đó, AI không phải là một sản phẩm, một thuật toán hay một bộ óc kỹ thuật số. Nó là một chiếc ô bao phủ nhiều hệ thống. Trình phân loại thư rác, trình nhận dạng giọng nói, trình dự đoán cấu trúc protein và mô hình ngôn ngữ đều có thể phù hợp với định nghĩa trong khi chia sẻ một chút ngoài mẫu đầu vào-mô hình-đầu ra rộng.

Mỗi hệ thống AI không chỉ là một mô hình

Thảo luận công khai thường coi mô hình là toàn bộ cỗ máy. Trong thực tế, mô hình là một thành phần bên trong hệ thống. Năm phần đáng được tách ra:

• Mục tiêu: hệ thống đang được tối ưu hóa để dự đoán, xếp hạng, tạo hoặc quyết định.
• Đầu vào: thông tin có sẵn tại thời điểm sử dụng, chẳng hạn như pixel, từ, số đọc cảm biến, vị trí hoặc hành vi trong quá khứ.
• Mô hình: cơ chế đã học hoặc được thiết kế để ánh xạ đầu vào thành kết quả.
• Đầu ra và giao diện: nhãn, điểm số, lộ trình, hình ảnh, câu hoặc hành động được hiển thị cho một người hoặc được chuyển sang hệ thống khác.
• Đánh giá và phản hồi: các thử nghiệm, giám sát, khắc phục và quyết định của con người được sử dụng để đánh giá xem hệ thống có hoạt động trong điều kiện thực tế hay không.

Xem xét quy hoạch tuyến đường. Mục tiêu có thể là giảm thiểu thời gian di chuyển ước tính. Đầu vào bao gồm mạng lưới đường bộ, vị trí hiện tại, các điểm đóng cửa và tín hiệu giao thông. Một mô hình ước tính chi phí của các tuyến đường có thể. Giao diện trình bày một hoặc nhiều lựa chọn. Phản hồi sẽ đến khi những thay đổi về giao thông và hành trình đã hoàn tất. Kết quả hữu ích đến từ toàn bộ chuỗi chứ không phải từ một thuật toán riêng biệt.

Mục tiêu cũng đáng được xem xét kỹ lưỡng. Một hệ thống có thể tối ưu hóa mục tiêu được giao nhưng vẫn tạo ra kết quả mà mọi người không thích. Một tuyến đường có tốc độ trung bình nhanh nhất có thể bao gồm một đoạn rẽ căng thẳng. Đề xuất được tối ưu hóa cho số lượt nhấp chuột có thể không phải là đề xuất mang lại thông tin tốt nhất cho ai đó. Máy tính không tự động tìm ra đúng mục tiêu của con người. Mọi người xác định mục tiêu, chọn những gì có thể đo lường được và chấp nhận sự đánh đổi.

Cách máy học từ các ví dụ

Giả sử một nhà phân phối táo muốn xác định trái cây bị bầm tím từ hình ảnh camera. Một chương trình dựa trên quy tắc có thể kiểm tra màu sắc và hình dạng bằng cách sử dụng các ngưỡng do kỹ sư viết. Điều đó có thể hoạt động trong môi trường được kiểm soát, nhưng táo thật khác nhau về chủng loại, độ chín, ánh sáng, góc và kết cấu bề mặt. Phương pháp học máy sử dụng nhiều ví dụ và điều chỉnh mô hình để dự đoán của nó ngày càng phù hợp với kết quả đã biết.

Trong quá trình đào tạo, mô hình đưa ra dự đoán trên các ví dụ, đo lường khoảng cách giữa những dự đoán đó với kết quả mong muốn và cập nhật các tham số số để giảm lỗi đó. Các chi tiết khác nhau giữa các thuật toán, nhưng vòng lặp có thể nhận biết được: dự đoán, đo lường, điều chỉnh, lặp lại. Mô hình không lưu trữ một quy tắc bằng lời nói chẳng hạn như mọi mảng tối đều là vết bầm tím. Nó phù hợp với một mối quan hệ toán học có thể kết hợp nhiều tín hiệu thị giác.

Đào tạo, xác nhận, kiểm tra và suy luận

Những thuật ngữ này mô tả những khoảnh khắc khác nhau và không nên gộp lại thành một:

• Dữ liệu huấn luyện được sử dụng để điều chỉnh các tham số của mô hình.
• Dữ liệu xác thực giúp chọn cài đặt và so sánh các phiên bản trong khi quá trình phát triển vẫn đang được tiến hành.
• Dữ liệu thử nghiệm được tách riêng để ước tính cách mô hình đã chọn xử lý các ví dụ mà nó không học trực tiếp.
• Suy luận là thời điểm một mô hình được đào tạo nhận được đầu vào mới và tạo ra đầu ra.

Một mô hình hoạt động xuất sắc trên các ví dụ quen thuộc nhưng lại kém trên các ví dụ mới là do chưa học đủ rõ về mẫu dự định. Nó có thể có các chi tiết ngẫu nhiên quá mức trong tập huấn luyện của nó. của Google Khóa học cấp tốc về máy học coi các tập dữ liệu, khái quát hóa, trang bị quá mức, đánh giá, hệ thống sản xuất và tính công bằng là các phần riêng biệt của học máy thực tế vì chính lý do này. Chỉ điểm huấn luyện không thôi không phải là mô tả đáng tin cậy về hành vi trong thế giới thực.

Ngay cả một bài kiểm tra tốt cũng có thể quá hẹp. Một bộ phân loại táo được thử nghiệm dưới một camera và một đèn kho có thể bị lỗi sau khi triển khai dưới một camera khác. Đây là sự thay đổi phân phối: các điều kiện xung quanh đầu vào mới không còn giống với các điều kiện được thể hiện trong quá trình phát triển. Các hệ thống thực cần được giám sát vì thế giới không hứa hẹn sẽ vẫn giống như bộ thử nghiệm.

Mạng lưới thần kinh và học sâu, không có thần thoại

Mạng nơron là một mô hình được xây dựng từ các lớp phép toán số được kết nối. Mỗi lớp biến đổi một biểu diễn thành một biểu diễn khác. Các lớp đầu tiên trong mô hình hình ảnh có thể đáp ứng cấu trúc hình ảnh đơn giản; các lớp sau có thể kết hợp các tín hiệu đó thành các mẫu dành riêng cho nhiệm vụ hơn. Học sâu đề cập đến các mạng lưới thần kinh có nhiều lớp như vậy, được đào tạo để học các cách biểu diễn hữu ích từ dữ liệu.

Từ vựng sinh học là nguồn cảm hứng lịch sử, không phải bằng chứng cho thấy mô hình suy nghĩ giống bộ não con người. Một mạng có thể chứa hàng triệu hoặc hàng tỷ thông số có thể điều chỉnh được nhưng vẫn không có kinh nghiệm, ý định hoặc hiểu biết cá nhân theo nghĩa thông thường của con người. Nó thực hiện các phép tính được định hình theo kiến ​​trúc, mục tiêu đào tạo, dữ liệu và đầu vào hiện tại.

Học sâu đặc biệt hiệu quả khi đầu vào thô phức tạp, bao gồm hình ảnh, âm thanh, ngôn ngữ và cấu trúc khoa học. Sức mạnh của nó đi kèm với chi phí: có thể khó giải thích sự kết hợp nào của các tín hiệu đã học tạo ra một đầu ra cụ thể và hiệu suất có thể phụ thuộc vào các tập dữ liệu lớn, tính toán mở rộng và đánh giá cẩn thận.

AI có những thay đổi gì

Bộ phân loại chọn trong số các danh mục được xác định. Một mô hình tổng quát tạo ra tài liệu mới giống với các mẫu trong phân phối đào tạo của nó. Tùy thuộc vào mô hình, tài liệu đó có thể là văn bản, hình ảnh, âm thanh, video, mã hoặc cấu trúc khoa học. Thế hệ làm cho AI cảm thấy sáng tạo và có khả năng trò chuyện hơn, nhưng nó không loại bỏ bộ máy thống kê cơ bản.

Mô hình ngôn ngữ lớn hoặc LLM xử lý văn bản dưới dạng mã thông báo. Mã thông báo có thể là một từ, một phần của từ, dấu câu hoặc một đơn vị nhỏ khác. Với các mã thông báo đã có trong ngữ cảnh, mô hình sẽ ước tính mức phân phối trên các mã thông báo tiếp theo có thể có, chọn một mã thông báo theo cài đặt giải mã của hệ thống, nối thêm mã thông báo đó và lặp lại. của Google giới thiệu về mô hình ngôn ngữ lớn mô tả trực tiếp dự đoán trình tự này.

Các LLM hiện đại thường sử dụng kiến ​​trúc Transformer được giới thiệu trong bài báo năm 2017 Tất cả những gì bạn cần là sự chú ý. Cơ chế chú ý của nó cho phép mô hình cân nhắc mối quan hệ giữa các mã thông báo trong ngữ cảnh thay vì xử lý từng từ dưới dạng một mục riêng biệt. Việc đào tạo trên các bộ sưu tập văn bản lớn cho phép mô hình nắm bắt được ngữ pháp, văn phong, các sự kiện lặp lại, các kiểu lập luận và mối quan hệ giữa các khái niệm trong các tham số của nó.

Điều đó không biến mô hình thành cơ sở dữ liệu thông thường. Các tham số của nó mã hóa các mối quan hệ thống kê phân tán, không phải là một thư viện tài liệu nguồn gọn gàng mà nó luôn có thể trích dẫn chính xác. Văn bản trong lời nhắc và mọi tài liệu được cung cấp trong thời gian chạy đều trở thành ngữ cảnh, nhưng ngữ cảnh có giới hạn. Một số ứng dụng thêm tính năng tìm kiếm, công cụ, máy tính hoặc truy xuất tài liệu xung quanh mô hình. Những bổ sung đó có thể cải thiện nền tảng, tuy nhiên câu trả lời cuối cùng vẫn có thể kết hợp bằng chứng được truy xuất với từ ngữ được tạo ra và suy luận không được hỗ trợ.

AI ấn tượng nhất thường có tính chuyên môn cao

Các mô hình đàm thoại nhận được sự chú ý vì bất kỳ ai cũng có thể kiểm tra chúng trong vài giây. Nhưng giá trị của AI không chỉ giới hạn ở cuộc trò chuyện. Các hệ thống có khung hẹp có thể giải quyết vấn đề với đầu vào, đầu ra và tiêu chí đánh giá rõ ràng hơn:

• Bộ nhận dạng ký tự quang học ánh xạ các pixel trong hình ảnh tài liệu thành các ký tự có thể chỉnh sửa.
• Một mô hình gian lận xếp hạng các giao dịch để xem xét thêm thay vì tuyên bố mọi trường hợp bị gắn cờ là tội phạm.
• Mô hình thời tiết ước tính trạng thái khí quyển trong tương lai từ các quan sát và cấu trúc vật lý.
• Một mô hình khoa học dự đoán tính chất hoặc cấu trúc phân tử mà các nhà nghiên cứu có thể so sánh với các thí nghiệm.

PetexSpace's công cụ chuyển hình ảnh thành văn bản minh họa loại nhiệm vụ tập trung đầu tiên. Đầu vào là hình ảnh, đầu ra mong muốn là văn bản có thể chỉnh sửa và kết quả có thể được kiểm tra trực tiếp dựa trên nguồn. Hình ảnh mờ, bố cục bất thường, chữ viết tay và cài đặt ngôn ngữ không chính xác vẫn có thể làm giảm độ chính xác. Nhiệm vụ này hữu ích một phần vì thành công và thất bại đều có thể nhìn thấy được.

Một ví dụ khoa học cụ thể: AlphaFold

Các protein gấp lại thành các cấu trúc ba chiều giúp xác định cách chúng hoạt động. Việc xác định cấu trúc thí nghiệm là cần thiết nhưng có thể chậm và khó khăn. Trong một đánh giá mù được gọi là CASP14, hệ thống AlphaFold đã dự đoán nhiều cấu trúc protein có độ chính xác cạnh tranh với các cấu trúc thử nghiệm và vượt trội hơn đáng kể so với các phương pháp tính toán khác. Được bình duyệt Giấy AlphaFold trong tự nhiên giải thích mô hình, đánh giá và ước tính độ tin cậy của nó.

Ví dụ này quan trọng vì hai lý do. Đầu tiên, nó cho thấy AI có thể góp phần giải quyết một vấn đề khoa học khó mà không cần bắt chước chatbot. Thứ hai, hệ thống báo cáo dự đoán của nó ít nhiều đáng tin cậy. Một mô hình khoa học hữu ích không chỉ tạo ra một cấu trúc đẹp đẽ. Nó cung cấp cho các nhà nghiên cứu bằng chứng về sự không chắc chắn và kết quả có thể được kiểm tra trong một quy trình thử nghiệm lớn hơn.

Tại sao hệ thống AI có năng lực vẫn thất bại

Thất bại không phải là một lỗ hổng bí ẩn được thêm vào sau trí thông minh thực sự. Nó tuân theo cách hệ thống được xây dựng và sử dụng. Một số chế độ lỗi có thể tồn tại cùng một lúc.

1. Mục tiêu chưa đầy đủ

Một mục tiêu có thể đo lường được thường là đại diện cho kết quả mà mọi người thực sự mong muốn. Tối ưu hóa proxy có thể tạo ra hành vi lạ ở các biên. Mô hình có thể cải thiện điểm số của mình một cách chính xác trong khi vẫn thiếu những phẩm chất chưa từng được thể hiện trong điểm số đó. Sự phán đoán của con người được đưa ra trước khi đào tạo thông qua việc lựa chọn mục tiêu, không chỉ sau khi xảy ra lỗi.

2. Dữ liệu để lại điều gì đó

Các ví dụ đào tạo phản ánh các quyết định thu thập và điều kiện lịch sử. Một số nhóm, môi trường, ngôn ngữ, thiết bị hoặc các trường hợp hiếm gặp có thể được thể hiện kém. NIST lưu ý rằng thành kiến ​​có hại có thể được nhúng vào các hệ thống tự động và có thể tăng tốc độ hoặc quy mô. của nó hoạt động xác định và quản lý sự thiên vị trong AI nhấn mạnh rằng sự thiên vị rộng hơn vấn đề dữ liệu kỹ thuật thuần túy và phải được xem xét trên toàn hệ thống.

3. Một mô hình sáng tạo có thể tạo ra những sai lầm thuyết phục

NIST sử dụng thuật ngữ nhầm lẫn để trình bày nội dung sáng tạo sai lệch hoặc sai lầm được trình bày một cách tự tin. của nó Hồ sơ AI sáng tạo giải thích rằng hành vi này diễn ra một cách tự nhiên từ các mô hình tạo ra kết quả đầu ra gần giống với các mẫu trong dữ liệu huấn luyện của chúng. Một câu có thể hợp lý về mặt thống kê mà không cần được hỗ trợ về mặt thực tế. Các trích dẫn bịa đặt đặc biệt nguy hiểm vì chúng khiến một câu trả lời không được hỗ trợ trông có vẻ đã được nghiên cứu.

4. Thế giới thay đổi

Một mô hình được đánh giá ngày hôm qua có thể gặp phải sản phẩm mới, ngôn ngữ mới, hành vi mới hoặc chiến thuật đối nghịch mới vào ngày mai. Độ chính xác không phải là đặc tính cố định được in trên mô hình. Đó là phép đo được thực hiện trên dữ liệu cụ thể, tại một thời điểm cụ thể, trong những điều kiện cụ thể.

5. Mọi người có thể tin tưởng vào giao diện hơn là bằng chứng

Một câu trả lời trôi chảy, giọng điệu tự tin hoặc tỷ lệ phần trăm chính xác có thể tạo ra uy tín mà bằng chứng cơ bản không xứng đáng có được. Thiết kế giao diện có thể che giấu sự không chắc chắn hoặc khiến một đề xuất có vẻ bắt buộc. Do đó, rủi ro cuối cùng phụ thuộc vào cả hành vi của mô hình và cách mọi người được yêu cầu sử dụng kết quả đầu ra.

Đầu ra AI cần kiểm tra bao nhiêu lần?

Câu trả lời sẽ phụ thuộc vào cái giá phải trả cho sai lầm. Việc coi mọi việc sử dụng đều nguy hiểm như nhau là không thực tế. Việc coi mọi đầu ra đều đáng tin cậy như nhau thì còn tệ hơn. Một mô hình ba vùng đơn giản sẽ giúp ích.

Thăm dò ít rủi ro

Việc động não đặt tên, thay đổi giọng điệu của bản nháp, tạo câu hỏi thực hành hoặc khám phá một số cách để sắp xếp ghi chú thường ít xảy ra sai sót. Bạn có thể kiểm tra kết quả trực tiếp và loại bỏ các đề xuất yếu. Mô hình này hữu ích như một nguồn lựa chọn chứ không phải như một cơ quan có thẩm quyền.

Công việc cần xác minh

Tóm tắt nghiên cứu, bản dịch, mã, tính toán, so sánh sản phẩm và giải thích thực tế có thể tiết kiệm thời gian, nhưng vẫn có thể xảy ra lỗi khi đọc nhanh. Kiểm tra các tuyên bố dựa trên các nguồn chính, chạy mã, tái tạo phép tính, so sánh bản dịch với ngữ cảnh và xác nhận rằng tài liệu được trích dẫn nói lên những gì câu trả lời tuyên bố.

Các quyết định mang tính hệ quả

Các quyết định về y tế, pháp lý, tài chính, việc làm, an toàn, danh tính và quyền truy cập cần có sự xem xét có trình độ và một quy trình có trách nhiệm. Phản hồi AI có mục đích chung không nên trở thành cơ sở duy nhất cho hành động chỉ vì nó nhanh hoặc rõ ràng. Trong những bối cảnh này, sự không chắc chắn, khiếu nại, tài liệu, quyền riêng tư và hậu quả đối với người bị ảnh hưởng cũng quan trọng như hiệu suất dự đoán thô.

Quy trình xác minh chỉ mất vài phút

1. Tách biệt sự thật khỏi gợi ý. Một đề cương được đề xuất cần được đánh giá; một tuyên bố về luật, nghiên cứu, giá cả hoặc sự kiện cần có bằng chứng.
2. Hỏi xem từng khiếu nại quan trọng đến từ đâu. Sau đó hãy mở nguồn thay vì tin tưởng vào văn bản trích dẫn.
3. Ưu tiên tài liệu chính khi có thể: tài liệu nghiên cứu, tài liệu chính thức, tập dữ liệu gốc, cơ quan quản lý, tiêu chuẩn hoặc hồ sơ trực tiếp.
4. Kiểm tra xem nguồn có cập nhật hay không và liệu nó có hỗ trợ tuyên bố chính xác chứ không chỉ đơn thuần là cùng một chủ đề chung.
5. Sao chép các phép tính và chạy mã được tạo trong môi trường an toàn với các thử nghiệm đại diện.
6. So sánh kết luận mang tính hệ quả với một nguồn độc lập hoặc một người đủ trình độ chịu trách nhiệm về lĩnh vực đó.
7. Nếu không thể kiểm tra bằng chứng, hãy hạ thấp độ tin cậy của bạn hoặc không sử dụng kết quả đầu ra cho quyết định đó.

Tài liệu có thể giúp ích trước khi bạn bắt đầu. Bài nghiên cứu về Thẻ mẫu cho báo cáo mẫu đề xuất ghi lại các mục đích sử dụng dự định, quy trình đánh giá, các hạn chế và hiệu suất trong các điều kiện liên quan. Bản demo hoàn thiện sẽ cho bạn biết mô hình có thể làm gì một lần. Tài liệu tốt sẽ giúp tiết lộ nơi nó đã được thử nghiệm và nơi không nên sử dụng nó.

Bảy câu hỏi về bất kỳ hệ thống AI nào

1. Hệ thống này tạo ra sản lượng cụ thể như thế nào?
2. Mục tiêu nào được xây dựng hoặc điều chỉnh để tối ưu hóa?
3. Hiện tại nó nhận được thông tin gì và thông tin nào còn thiếu?
4. Nó được thử nghiệm như thế nào trên các trường hợp khác với các ví dụ đào tạo của nó?
5. Nó có bộc lộ sự không chắc chắn, nguồn gốc, hạn chế hoặc cách thức thách thức kết quả không?
6. Tôi có thể kiểm tra đầu ra một cách độc lập trước khi hành động không?
7. Ai chịu chi phí nếu hệ thống sai?

Những câu hỏi đó mang tính bộc lộ nhiều hơn là hỏi liệu một công cụ có thông minh hay không. Họ chuyển sự chú ý từ nhãn tiếp thị sang hệ thống thực tế: nhiệm vụ, bằng chứng, ranh giới và hậu quả của nó.

Hình mẫu tinh thần đáng lưu giữ

AI là một phương pháp biến đầu vào thành đầu ra được suy luận theo một mục tiêu. Học máy xây dựng bản đồ đó từ các ví dụ. Học sâu sử dụng mạng lưới thần kinh nhiều lớp để tìm hiểu các biểu diễn phức tạp. AI sáng tạo tạo ra tài liệu mới và các mô hình ngôn ngữ làm như vậy bằng cách liên tục dự đoán các mã thông báo từ ngữ cảnh. Không có cơ chế nào trong số này đảm bảo sự thật, sự công bằng, tính phù hợp hoặc khả năng phán đoán tốt.

Điều đáng chú ý không phải là việc một cỗ máy đã trở thành con người. Đó là các hệ thống toán học được thiết kế cẩn thận có thể khám phá các mẫu hữu ích ở quy mô mà không ai có thể kiểm tra bằng tay. Phản ứng có trách nhiệm không phải là tôn thờ hay sa thải. Đó là sự tò mò với các tiêu chuẩn: hiểu nhiệm vụ, tìm kiếm bằng chứng, tôn trọng sự không chắc chắn và giữ trách nhiệm của con người khi hậu quả là có thật.

Tài liệu tham khảo cơ bản và kỹ thuật

• OECD, Bản ghi nhớ giải thích về định nghĩa cập nhật của hệ thống AI, 2024.
• NIST, Khung quản lý rủi ro trí tuệ nhân tạo: Hồ sơ trí tuệ nhân tạo sáng tạo, 2024.
• Vaswani và cộng sự, Tất cả những gì bạn cần là sự chú ý, 2017.
• Jumper và cộng sự, Dự đoán cấu trúc protein có độ chính xác cao với AlphaFold, Nature, 2021.
• Mitchell và cộng sự, Thẻ mẫu cho báo cáo mẫu, 2019.
• Google dành cho nhà phát triển, Khóa học cấp tốc về máy học và Giới thiệu về mô hình ngôn ngữ lớn.