Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Sourcegraph gần đây đã bắt tay vào một liên doanh để nâng cao khả năng của AI trong việc tạo và hiểu mã. Bằng cách tận dụng các cửa sổ ngữ cảnh dài, công ty đặt mục tiêu cải thiện khả năng hiểu các cơ sở mã lớn, phức tạp vốn là thách thức đối với các mô hình AI truyền thống. Công ty đã hợp tác với những người sáng tạo ra trợ lý mã hóa Cody AI, vốn đã được các công ty có cơ sở mã lớn sử dụng, để tạo ra một khuôn khổ thực tế nhằm thử nghiệm tiềm năng của các mô hình AI tiên tiến này trong các tình huống thực tế. Chúng tôi cung cấp công việc.

Để định lượng các lợi ích khi sử dụng cửa sổ ngữ cảnh nâng cao, Sourcegraph đã tiến hành một loạt các thử nghiệm so sánh hiệu suất của Cody với cửa sổ ngữ cảnh 1 triệu mã thông báo với phiên bản tiêu chuẩn. Các thử nghiệm tập trung vào việc trả lời các câu hỏi kỹ thuật, đây là những tính năng quan trọng đối với các nhà phát triển. Do đó, chúng tôi đã thấy những cải tiến đáng kể trong một số điểm chuẩn, bao gồm Essential Recall, Essential Concision và Helpfulness, đồng thời giảm đáng kể việc tạo ra thông tin sai lệch, được gọi là tỷ lệ ảo giác.

Mặc dù có những lợi ích rõ ràng khi áp dụng mô hình ngữ cảnh dài, Sourcegraph vẫn nhận ra một số sự đánh đổi nhất định, chẳng hạn như thời gian cần thiết để tạo mã thông báo đầu tiên lâu hơn. Để giải quyết vấn đề này, họ đã giới thiệu một cơ chế prefetch và một kiến trúc mô hình mới lưu trữ đệm trạng thái thực thi mô hình, giúp giảm đáng kể thời gian phản hồi của trợ lý mã hóa thời gian thực.

Sự hợp tác của Sourcegraph với các nhà phát triển trợ lý mã hóa Cody AI làm nổi bật những tiến bộ đáng kể trong ứng dụng AI vào việc tạo và hiểu mã. Bằng cách tối ưu hóa việc sử dụng các cửa sổ ngữ cảnh dài, họ đang tăng độ chính xác và hiệu quả của các công cụ AI dành cho các nhà phát triển làm việc với các cơ sở mã phức tạp và rộng lớn.