66b là một thuật ngữ được dùng để chỉ một mô hình ngôn ngữ có khoảng 66 tỷ tham số, được thiết kế để xử lý ngôn ngữ tự nhiên, sinh văn bản và trả lời câu hỏi, cũng như thực hiện nhiều tác vụ khác.
Phần lớn sự phát triển của 66b bắt nguồn từ xu hướng tăng quy mô mô hình ngôn ngữ và cải thiện kỹ thuật huấn luyện như điều chỉnh tốc độ học, regularization và tối ưu hoá hiệu suất trên nhiều tác vụ. Các dự án nghiên cứu và công ty công nghệ đã đóng góp vào tiêu chuẩn benchmark và đẩy nhanh tiến bộ.
66b có thể được sử dụng để tạo văn bản tự nhiên, tóm tắt nội dung, trả lời câu hỏi, hỗ trợ viết mã, phân tích cảm xúc và tham gia đối thoại với người dùng. Hiệu suất và độ sáng tạo phụ thuộc vào dữ liệu huấn luyện và kỹ thuật tinh chỉnh.