Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Để nâng cao khả năng suy luận của AI, Microsoft đã công bố một phương pháp mới cho phép các mô hình AI thực hiện suy luận thuật toán phức tạp. Các mô hình ngôn ngữ quy mô lớn (LLM), chẳng hạn như GPT-3 và PaLM, đã đạt được tiến bộ đáng kể, chủ yếu là do việc mở rộng quy mô mô hình và dữ liệu đào tạo. Tuy nhiên, cuộc tranh luận cơ bản vẫn tiếp tục về việc liệu LLM có thể thực hiện hiệu quả các nhiệm vụ lý luận biểu tượng hay không. Một trong những thách thức chính mà AI phải đối mặt là khả năng suy luận một cách tượng trưng hoặc vận dụng các ký hiệu dựa trên các quy tắc logic. Mặc dù các mô hình AI có thể thực hiện tốt công việc khớp các mẫu nhưng chúng thường gặp khó khăn với các nhiệm vụ suy luận dựa trên quy tắc như các phép tính số học, đặc biệt là với số lượng lớn. Điều này cho thấy rằng có một lỗ hổng trong sự hiểu biết của chúng ta về các quy tắc logic cơ bản cần thiết cho những nhiệm vụ như vậy. Giải pháp tiên phong của Microsoft, được trình bày chi tiết trong bài viết "Dạy lý luận thuật toán với học tập theo ngữ cảnh", giới thiệu một cách mới để tận dụng việc học theo ngữ cảnh để trang bị cho LLM khả năng lý luận thuật toán. Học trong ngữ cảnh cho phép các mô hình AI thực hiện các nhiệm vụ dựa trên một số lời nhắc ví dụ trong ngữ cảnh của mô hình mà không cần điều chỉnh trọng lượng. Cách tiếp cận này được kết hợp với một kỹ thuật nhắc nhở thuật toán độc đáo được thiết kế để giúp LLM vượt trội trong các vấn đề số học phức tạp ngoài những vấn đề có trong lời nhắc ban đầu. Công nghệ nhắc nhở thuật toán mới cho phép các mô hình AI giải quyết các nhiệm vụ bằng cách tạo ra các giải pháp thuật toán từng bước với từng bước được giải thích chi tiết. Đây là một sự khởi đầu từ các phương pháp tiếp cận truyền thống. Ví dụ, đối với các phép tính số học như cộng hai số, các kỹ thuật mới kết hợp các phương trình rõ ràng để loại bỏ sự mơ hồ và tạo điều kiện cho việc diễn giải chính xác. Nghiên cứu của Microsoft đưa tiến trình này tiến thêm một bước nữa bằng cách đi sâu vào việc tích hợp lý luận thuật toán vào các quy trình giải quyết vấn đề rộng hơn. Nghiên cứu xem xét cách các mô hình AI chuyên về các kỹ năng khác nhau có thể hoạt động cùng nhau thông qua học tập trong ngữ cảnh. Bằng cách tận dụng những điểm mạnh này, các mô hình có thể hợp tác giải quyết các nhiệm vụ phức tạp, thể hiện tiềm năng của AI trong việc tận dụng hiệu quả lý luận thuật toán trên nhiều lĩnh vực khác nhau.