Nghiên cứu sử dụng metric pass@k để đo lường ranh giới khả năng suy luận trên nhiều bài kiểm tra toán học, lập trình và suy luận hình ảnh. Kết quả cho thấy RLVR chủ yếu tăng cường hiệu quả lấy mẫu các con đường suy luận đúng đã tồn tại trong mô hình cơ sở, nhưng không tạo ra khả năng suy luận mới và thậm chí còn giảm phạm vi bao phủ các vấn đề có thể giải quyết ở các giá trị k lớn.

"Attention Is All You Need" (2017) là cột mốc mở ra kỷ nguyên của các mô hình ngôn ngữ lớn (LLM) hiện đại như GPT, BERT, Claude, Gemini hay LLaMA.

Đọc thêm: https://trituenhantao.io/tin-tuc/minh-hoa-transformer/

Bài viết giới thiệu DeepSeek-R1, một mô hình ngôn ngữ lớn thế hệ mới được phát triển thông qua học tăng cường (RL) để nâng cao khả năng suy luận. Mô hình đầu tiên, DeepSeek-R1-Zero, được huấn luyện chỉ bằng RL và cho thấy khả năng suy luận ấn tượng, nhưng gặp vấn đề về tính dễ đọc. DeepSeek-R1 giải quyết những vấn đề này bằng cách kết hợp huấn luyện đa giai đoạn và dữ liệu khởi tạo trước RL, đạt hiệu suất suy luận ngang ngửa với OpenAI-o1-1217 trên các điểm chuẩn. Ngoài ra, các nhà nghiên cứu đã công khai các mô hình nhỏ hơn được tinh chỉnh từ DeepSeek-R1, chứng minh hiệu quả của việc tinh chỉnh khả năng suy luận từ các mô hình lớn hơn.

Bài báo nghiên cứu sử dụng mạng thần kinh sâu với cơ chế chú ý để cải thiện việc tìm kiếm tài liệu pháp lý. Các tác giả đề xuất một phương pháp tiếp cận chung sử dụng mạng thần kinh sâu có cơ chế chú ý và phát triển hai kiến trúc phân cấp: Attentive CNN và Paraformer, để biểu diễn các văn bản pháp luật dài.

Vào ngày 20/01/2025, công ty công nghệ AI Trung Quốc DeepSeek đã ra mắt mô hình AI mang tính cách mạng DeepSeek R1. Chỉ sau vài ngày, R1 đã nhanh chóng trở thành ứng dụng được tải xuống nhiều nhất trên App Store tại Mỹ, vượt mặt cả những ông lớn như ChatGPT. Thành công này không chỉ làm rúng động thị trường công nghệ mà còn gây ra một đợt bán tháo cổ phiếu (selloff) lớn trên thị trường chứng khoán.

Agentic AI đang định hình lại cách chúng ta nhìn nhận trí tuệ nhân tạo, từ khả năng phân tích dữ liệu đến khả năng tự hành động độc lập, mở ra kỷ nguyên mới cho các ứng dụng công nghệ.

Sam Altman – CEO của OpenAI, thông báo GPT-5 dự kiến ra mắt vào năm 2024, mang lại những cải tiến đáng kể trong lĩnh vực trí tuệ nhân tạo (AI), tác động mạnh mẽ đến các startup từ các khía cạnh như khả năng suy luận, độ tin cậy và tính cá nhân hóa.

Tin văn về AI trên thế giới