Kỹ sư hé lộ Google đào tạo Bard bằng các phản hồi của ChatGPT rồi nghỉ việc, làm cho OpenAI

Google Bard là mô hình ngôn ngữ lớn có thể tạo nội dung dựa trên lời nhắc. Điều này có thể bao gồm giải thích các chủ đề, trả lời câu hỏi hoặc tạo các đoạn văn bản dựa trên yêu cầu đơn giản của người dùng. Bard hoạt động rất giống ChatGPT, generative AI đã gây bão trên toàn thế giới vào năm ngoái và công nghệ của nó cũng đang cung cấp sức mạnh cho Bing chatbot.

Generative AI là loại trí tuệ nhân tạo mà máy tính được lập trình để tự động tạo ra nội dung mới, như văn bản, hình ảnh, âm thanh và video. Nó khác với các hệ thống AI khác như máy học sâu (deep learning) hoặc học máy (machine learning) trong việc dự đoán kết quả từ dữ liệu đã có sẵn. Thay vì dựa trên dữ liệu huấn luyện, hệ thống generative AI có khả năng tự tạo ra dữ liệu mới và phong phú hơn. Các ví dụ của generative AI bao gồm các mô hình ngôn ngữ tự động tạo văn bản, các hệ thống nhận dạng hình ảnh, video và âm thanh.

Trong tuần đầu tiên ra mắt công chúng, Bard đã hoạt động khá giống ChatGPT, nghĩa là thiếu sót về nhiều mặt. Bard thường hiểu sai các chi tiết thực tế, đôi khi bị "ảo giác" và tạo ra những câu trả lời vô nghĩa, đồng thời không trích dẫn nguồn tham khảo theo bất kỳ cách nào.

Tuy nhiên, một vấn đề lớn hơn đằng sau hậu trường có thể là cách bard được đào tạo. theo trang the information, jacob devlin, cựu kỹ sư ai của google, không đồng tình với việc google sử dụng dữ liệu từ chatgpt để đào tạo bard.

Jacob devlin chia sẻ những lo ngại của mình với giám đốc điều hành google - sundar pichai và jeff dean – giám đốc google ai và các quản lý cấp cao khác rằng đội bard, được hỗ trợ bởi các nhân viên brain, đang huấn luyện mô hình học máy của mình bằng dữ liệu từ chatgpt.

Cụ thể hơn, jacob devlin tin rằng đội bard đang phụ thuộc rất nhiều vào các phản hồi từ chatgpt được công khai trên trang web sharegpt. đây là nơi người dùng thường chia sẻ các phản hồi mà họ nhận được từ chatbot của openai. jacob devlin cũng cảm thấy rằng việc đào tạo như vậy có thể khiến phản hồi của bard giống với chatgpt hơn.

Sau khi chia sẻ mối lo ngại của mình, jacob devlin đã từ chức và chuyển sang làm việc cho openai. trang the information cho biết google cũng ngừng sử dụng dữ liệu đó để đào tạo bard.

Theo the information, các nhân viên google khác biết về tình huống này dường như cảm thấy rằng việc sử dụng dữ liệu như vậy đã vi phạm điều khoản dịch vụ của openai. điều khoản này cấm sử dụng đầu ra của chatgpt “để phát triển các mô hình cạnh tranh với openai”.

Sau khi thông tin đó xuất hiện, google đưa ra một tuyên bố ngắn gọn với trang the verge rằng bard không được đào tạo với dữ liệu có nguồn gốc từ chatgpt.

Tuyên bố của google dường như không loại trừ chắc chắn rằng dữ liệu từ chatgpt từng được sử dụng để đào tạo bard hay chưa, nhưng có vẻ như điều đó ít nhất không còn đúng nữa.

Theo the information, đội brain của google và deepmind, công ty thuộc alphabet (chủ sở hữu google) đang hợp tác để cạnh tranh tốt hơn với openai. the information cho biết dự án của họ mang tên gemini và là nỗ lực nhằm “cố gắng bắt kịp các khả năng của gpt-4 của openai”. điều này sẽ bao gồm việc đạt được 1.000 tỉ tham số (cách đo các tính toán trong một mô hình học máy) giống gpt-4.

Google bắt đầu triển khai bard cho một số người dùng hôm 21.3 và chatbot ai này nhanh chóng gặp vấn đề trong câu trả lời. chuyên gia ai kate crawford đã đăng một cuộc trao đổi với bard, trong đó cô hỏi tập dữ liệu đào tạo chatbot ai này đến từ đâu.

Trong ảnh chụp màn hình cuộc trò chuyện, Bard trả lời rằng tập dữ liệu của nó "được thu thập từ nhiều nguồn khác nhau", trong đó có "dữ liệu nội bộ của Google", gồm cả Gmail.

"có ai lo ngại về việc bard nói rằng tập dữ liệu đào tạo nó gồm cả gmail không? tôi cho rằng điều đó hoàn toàn sai, nếu không thì google đang vượt qua một số ranh giới pháp lý nghiêm trọng", kate crawford viết.

Vài giờ sau đó, google đã cố gắng làm rõ thông tin. công ty đề cập trong một tweet rằng: "bard là một thử nghiệm sớm dựa trên các mô hình ngôn ngữ lớn và sẽ phạm sai lầm. nó không được huấn luyện trên dữ liệu của gmail".

Trong bình luận khác đã bị xóa sau đó, google cho biết: "không có dữ liệu riêng tư nào sẽ được sử dụng trong quá trình huấn luyện bard".

Trong phản hồi với kate crawford, bard cho biết nó cũng được đào tạo bằng cách sử dụng "bộ dữ liệu văn bản và mã từ web, chẳng hạn wikipedia, github và stack overflow", cũng như dữ liệu từ các công ty "hợp tác với google để cung cấp dữ liệu cho quá trình huấn luyện bard".

Trước đó, bard cũng khiến google rơi vào cảnh oái oăm. trong ảnh chụp màn hình cuộc đối thoại cùng bard, jane manchun wong (blogger công nghệ ở hồng kông) cho thấy chatbot này dường như đồng tình với bộ tư pháp mỹ về vụ kiện chống độc quyền với google trong lĩnh vực quảng cáo kỹ thuật số.

Đây là vụ kiện mà bộ tư pháp mỹ và một số thẩm phán bang chống lại google, được đệ trình vào tháng 1. về cơ bản, đơn kiện này cho rằng google đã dùng sức mạnh của mình để lấn át các nhà quảng cáo kỹ thuật số và buộc họ phải phụ thuộc vào công ty này.

Sundar pichai đã yêu cầu các nhân viên cẩn trọng với những lỗi có thể xảy ra khi bắt đầu sử dụng bard. "khi nhiều người bắt đầu sử dụng bard và kiểm tra khả năng của nó, họ sẽ làm chúng tôi ngạc nhiên. nhiều thứ xảy ra sẽ không như ý muốn", ông sundar pichai viết trong email gửi nhân viên hôm 22.3, được trang cnbc đăng tải.

Google hôm 21.3 đã bắt đầu phát hành công khai chatbot bard với mong muốn thu hút người dùng và nhận được phản hồi để vượt qua microsoft trong cuộc đua về công nghệ ai.

Bắt đầu từ mỹ và vương quốc anh, người dùng có thể tham gia danh sách chờ để truy cập bard tiếng anh tại địa chỉ https://bard.google.com, chương trình trước đây chỉ dành cho những người thử nghiệm được phê duyệt. google mô tả bard là thử nghiệm cho phép hợp tác với generative ai.

Khi được hỏi liệu các động lực cạnh tranh có đứng sau sự ra mắt của Bard hay không, Jack Krawczyk, Giám đốc sản phẩm cấp cao Google, cho biết công ty tập trung vào người dùng. Ông nói: “Những người thử nghiệm nội bộ và bên ngoài đã tìm đến Bard vì đã tăng năng suất, thúc đẩy ý tưởng và kích thích sự tò mò của họ”.

Trong buổi trình diễn trang web bard.google.com cho reuters, jack krawczyk đã cho thấy cách bard tạo ra các khối văn bản trong nháy mắt, khác với cách chatgpt gõ từng từ để trả lời.

Bard cũng bao gồm tính năng hiển thị ba phiên bản khác nhau hoặc "bản nháp" của bất kỳ câu trả lời cụ thể nào mà người dùng có thể chuyển đổi và hiển thị nút google it nếu người dùng muốn có kết quả web cho một truy vấn.

Tuy nhiên, độ chính xác vẫn là vấn đề đáng quan ngại. "bard không phải lúc nào cũng đúng", lời cảnh báo của google xuất hiện trong cửa sổ pop-up trong bài trình diễn.

Tháng trước, video quảng cáo cho thấy Bard trả lời sai một câu hỏi khiến vốn hóa thị trường Alphabet (công ty mẹ của Google) giảm hơn 100 tỉ USD trong ngày.

Google đã nêu bật một số sai lầm trong bản demo với Reuters, chẳng hạn nói rằng Bard trả lời sai rằng dương xỉ cần ánh sáng mạnh để trả lời một truy vấn.

Bard cũng đưa ra 9 đoạn văn bản khi được hỏi về 4 đoạn trong một câu hỏi khác. Sau câu trả lời đó, Jack Krawczyk nhấp vào nút ngón tay chỉa xuống để đánh giá không tốt.

“Chúng tôi hiểu rõ giới hạn của công nghệ và vì vậy chúng tôi muốn đưa ra một kế hoạch rõ ràng về tốc độ triển khai", ông nói.

Trong một tweet quảng cáo bard hôm 6.2, google đã chia sẻ một ảnh động mà chatbot này đang hoạt động. bard trả lời các câu hỏi của người dùng, gồm cả câu hỏi về kính viễn vọng james webb. thế nhưng, một trong những câu trả lời của bard không chính xác. cụ thể hơn, bard tuyên bố rằng james webb là kính viễn vọng đầu tiên tìm thấy một hành tinh ngoài hệ mặt trời. sự thật thì đây là một thành tựu thuộc về eso (đài thiên văn phía nam của châu âu), nơi phát hiện ra hành tinh đó cách nay gần 20 năm bằng kính viễn vọng vlt của mình.

Nhà vật lý thiên văn Grant Tremblay (Mỹ) là người chỉ ra lỗi kiến thức thiên văn của Bard. Theo Grant Tremblay, dù gây ấn tượng nhưng các chatbot AI "thường đưa ra câu trả lời sai một cách rất tự tin".

Đây được xem là một ví dụ điển hình về những sai sót có thể xảy ra với các chatbot dựa trên AI. Cụ thể, chúng có thể đưa ra các thông tin không chính xác nhưng giống như có căn cứ, dẫn đến việc nhiều người sẽ hiểu sai thông tin.

Sau đó, sundar pichai yêu cầu tất cả nhân viên google dành 2 đến 4 giờ giúp thử nghiệm sản phẩm để chatbot này có thể sẵn sàng ra mắt.

"tôi biết thời điểm này rất thú vị và đó là điều được mong đợi: công nghệ cơ bản đang phát triển nhanh chóng với rất nhiều tiềm năng. điều quan trọng nhất chúng tôi có thể làm lúc này là tập trung vào việc xây dựng một sản phẩm tuyệt vời và phát triển nó một cách có trách nhiệm”, sundar pichai viết cho nhân viên google trong một bản ghi nhớ hồi tháng 2.

Google đang chịu áp lực ngày càng tăng trong việc phát hành các sản phẩm generative ai. dù google từ lâu đã được coi là tiên phong trong lĩnh vực nghiên cứu ai nhưng một số nhà phê bình cho rằng công ty quá chậm chạp trong việc tung ra các công cụ và dịch vụ của riêng mình để sẵn sàng cho công chúng sử dụng.