NeMo Guardrails là ví dụ về cách ngành công nghiệp trí tuệ nhân tạo (AI) đang cố gắng giải quyết vấn đề “ảo giác” của thế hệ mô hình ngôn ngữ lớn mới nhất, vốn là trở ngại lớn với các doanh nghiệp.
Các mô hình ngôn ngữ lớn, như gpt của openai và lamda từ google, được đào tạo trên hàng terabyte dữ liệu để tạo ra các chương trình có thể phản hồi giống như con người. tuy nhiên, chúng cũng có xu hướng tạo ra các thông tin không chính xác, thường được các chuyên gia gọi là "ảo tưởng".
Các ứng dụng ban đầu của công nghệ này, chẳng hạn như tóm tắt tài liệu hoặc trả lời các câu hỏi cơ bản, cần giảm thiểu hiện tượng “ảo giác” để trở nên hữu ích hơn.
Nemo guardrails có thể làm điều này bằng cách thêm các rào cản để ngăn phần mềm khỏi việc đề cập đến các chủ đề không nên. nemo guardrails có thể buộc chatbot ai nói về một chủ đề cụ thể, loại bỏ nội dung độc hại và ngăn các hệ thống mô hình ngôn ngữ lớn thực thi những lệnh có hại trên máy tính.
“bạn có thể viết kịch bản để hệ thống phản hồi theo một cách nhất định nếu có ai đó đề cập về chủ đề cụ thể, bất kể tình huống là gì. chẳng hạn, nếu người dùng nói về một chủ đề nhạy cảm, kịch bản sẽ được sử dụng để đảm bảo rằng chatbot ai sẽ phản hồi theo cách xác định trước, ngăn chặn các nội dung không thích hợp hoặc nguy hiểm do mô hình ngôn ngữ lớn tạo ra”, jonathan cohen, phó chủ tịch nghiên cứu ứng dụng của nvidia, nói.
Thông báo này cũng nhấn mạnh chiến lược của nvidia nhằm duy trì vị trí dẫn đầu trên thị trường chip ai bằng cách đồng thời phát triển phần mềm quan trọng cho máy học.
Nvidia cung cấp hàng ngàn gpu (bộ xử lý đồ họa) cần thiết để đào tạo và triển khai phần mềm như chatgpt. theo các nhà phân tích, nvidia chiếm hơn 95% thị phần chip ai, nhưng sự cạnh tranh đang gia tăng.
Nemo guardrails là lớp phần mềm nằm giữa người dùng và mô hình ngôn ngữ lớn hoặc các công cụ ai khác. phần mềm mới của nvidia loại bỏ những kết quả xấu hoặc những truy vấn xấu trước khi mô hình phản hồi.
Nvidia đề xuất một trong những trường hợp áp dụng nemo guardrails khả thi là chatbot dịch vụ khách hàng. nhà phát triển có thể sử dụng nemo guardrails để ngăn nói về các chủ đề không liên quan hoặc lạc đề, điều này dễ dẫn đến khả năng phản hồi vô nghĩa hoặc độc hại.
“nếu có một chatbot dịch vụ khách hàng được thiết kế để nói về sản phẩm của mình, có lẽ bạn không muốn nó trả lời các câu hỏi về đối thủ cạnh tranh. bạn muốn giám sát cuộc trò chuyện. nếu điều đó xảy ra, bạn sẽ điều hướng cuộc trò chuyện trở lại các chủ đề mình thích hơn”, jonathan cohen lý giải.
Nvidia đưa ra một ví dụ khác về chatbot trả lời các câu hỏi về nguồn nhân lực nội bộ của công ty. trong ví dụ này, nvidia có thể thêm “các rào cản” để chatbot dựa trên chatgpt không trả lời các câu hỏi về hiệu quả tài chính của công ty hoặc truy cập dữ liệu riêng tư về các nhân viên khác.
NeMo Guardrails cũng có thể sử dụng mô hình ngôn ngữ lớn để phát hiện "ảo giác" bằng cách yêu cầu mô hình ngôn ngữ lớn khác kiểm tra sự đúng đắn của câu trả lời từ cái đầu tiên. Sau đó, nó trả lời “Tôi không biết” nếu mô hình không đưa ra các câu trả lời phù hợp.
Hôm 25.4, nvidia cũng thông báo nemo guardrails giúp đảm bảo an ninh và có thể buộc các mô hình ngôn ngữ lớn chỉ tương tác với phần mềm của bên thứ ba trong danh sách được cho phép.
Nemo guardrails là nguồn mở, được cung cấp thông qua các dịch vụ của nvidia và có thể sử dụng trong các ứng dụng thương mại. theo nvidia, các lập trình viên sẽ sử dụng ngôn ngữ lập trình golang để viết các quy tắc tùy chỉnh cho mô hình ai.
Các công ty ai khác, gồm cả google và openai, đã dùng phương pháp học tăng cường từ phản hồi của con người để ngăn chặn chatbot trả lời có hại. phương pháp này sử dụng những người thử nghiệmđể tạo dữ liệu về câu trả lời nào có thể chấp nhận được hay không, sau đó đào tạo mô hình ai bằng dữ liệu đó.
Nvidia đang ngày càng chuyển sự chú ý của mình sang ai khi đang thống trị các chip được sử dụng để tạo ra công nghệ này. tận dụng làn sóng ai giúp nvidia trở thành cổ phiếu tăng điểm nhiều nhất trong s&p 500 đến nay trong năm 2023, tăng 85% tính đến ngày 24.4.
S&P 500 là chỉ số chứng khoán được dựa trên vốn hóa của 500 công ty đại chúng lớn nhất Mỹ, phần nào phản ánh tình trạng của nền kinh tế nước này.