Mô hình ngôn ngữ lớn (LLM) là một dạng trí tuệ nhân tạo được tạo ra với mục đích có thể hiểu, tạo và tương tác với ngôn ngữ của con người.
LLM thường được đào tạo với các tập dữ liệu lớn cho phép chúng thể hiện tính linh hoạt trong việc trả lời các câu hỏi trên nhiều chủ đề khác nhau, từ khoa học và công nghệ đến nghệ thuật và văn hóa, khiến chúng trở thành công cụ vô giá để truy xuất thông tin, tạo nội dung và hiểu ngôn ngữ tự nhiên.
LLM được tạo ra bằng cách sử dụng máy học và cụ thể hơn là bằng cách sử dụng các mô hình biến áp—một hệ thống máy tính được mô phỏng theo mạng lưới nơ-ron của não người (còn được gọi là mạng nơ-ron), được thiết kế để nhận dạng các mẫu và học hỏi từ dữ liệu. Các mô hình biến áp cho phép LLM đưa ra quyết định hoặc dự đoán dựa trên thông tin đầu vào của người dùng.
Lịch sử của Mô hình ngôn ngữ lớn (LLM) có thể bắt nguồn từ cuối thế kỷ 19. Năm 1883, nhà triết học người Pháp Michel Breal đã khám phá cấu trúc của ngôn ngữ và mối quan hệ giữa các từ trong ngôn ngữ. Công trình của Bréal đã đặt nền tảng cho các ngôn ngữ lập trình như Java và Python, cũng như cải thiện cách máy tính hiểu ngôn ngữ của con người. Điều này dẫn đến giao tiếp đơn giản hơn giữa con người và máy móc.
Sự phát triển của các mô hình LLM tiếp tục sau Thế chiến II, khi có sự quan tâm ngày càng tăng trong việc phát triển các hệ thống dựa trên Xử lý ngôn ngữ tự nhiên (NLP) – một loại AI cho phép máy tính hiểu, diễn giải và tạo ra ngôn ngữ của con người. Sự quan tâm này được thúc đẩy bởi nhu cầu dịch ngôn ngữ hiệu quả để hỗ trợ giao tiếp và thương mại quốc tế. Trong những năm 1960, ELIZA được tạo ra bởi nhà khoa học Joseph Weizenbaum của MIT, được cho là chương trình đầu tiên sử dụng NLP. Chương trình có khả năng đưa ra các phản hồi được xác định trước dựa trên các từ khóa mà người dùng nhập vào.
Theo thời gian, các LLM được đào tạo tốt hơn đã được phát triển để có thể xử lý dữ liệu phức tạp hơn, đặc biệt là trong những năm 1990 khi máy tính bắt đầu trở nên mạnh mẽ hơn. Sự tiến bộ trong phát triển LLM đã cải thiện đáng kể khả năng hiểu và tạo văn bản giống con người của chúng. Gần đây hơn, sự tiến bộ này đã cho phép OpenAI tạo ra ChatGPT, một công cụ đã cách mạng hóa trí tuệ nhân tạo bằng cách cung cấp các khả năng đàm thoại tinh vi và nhiều ứng dụng.
