Sau bức thư ngỏ của hơn 1.800 chuyên gia, CEO OpenAI bác tin đang huấn luyện GPT-5

Sam altman cho biết công ty vẫn chưa bắt đầu làm việc trên gpt-5 và không có kế hoạch ngay lập tức làm điều đó. phát biểu tại viện công nghệ massachusetts (mit) qua cuộc gọi video hôm 14.4, sam altman đã đề cập đến bức thư ngỏ có chữ ký của elon musk, steve wozniak (đồng sáng lập apple) và hơn 1.800 chuyên gia khác vào cuối tháng 3.

"bức thư tuyên bố rằng openai đang huấn luyện gpt-5. chúng tôi không đang huấn luyện gpt-5 và sẽ không có kế hoạch để làm như vậy trong một thời gian dài sắp tới”, giám đốc điều hành openai nói.

Bức thư ngỏ đã kêu gọi các phòng thí nghiệm tạm dừng ít nhất 6 tháng trong việc phát triển hệ thống ai mạnh hơn gpt-4 vì nguy cơ tiềm tàng với xã hội và nhân loại.

Sam altman đồng ý với một số phần của bức thư và nói thêm rằng openai "đã dành hơn 6 tháng sau khi chúng tôi hoàn thành việc huấn luyện gpt-4 trước khi phát hành nó".

“tôi cho rằng việc hành động cẩn thận và tăng cường sự nghiêm ngặt trong các vấn đề liên quan đến an toàn ai là rất quan trọng. tôi cũng đồng ý rằng khi khả năng của ai ngày càng mạnh mẽ và phức tạp hơn thì ngưỡng an toàn phải tăng lên. thế nhưng, openai đang làm những việc khác trên nền tảng của gpt-4 mà tôi nghĩ có nhiều vấn đề liên quan đến an toàn cần được giải quyết và hoàn toàn bị bỏ qua trong thư”, sam altman nói. tuy nhiên, ông không đề cập thêm về điều này.

Được xuất bản bởi tổ chức phi lợi nhuận future of life institute, bức thư ngỏ đã đề cập đến những lo ngại về tác động không lường trước được của ai.

Nội dung thư có đoạn: “Các hệ thống AI với trí thông minh cạnh tranh với con người có thể gây ra những rủi ro sâu sắc cho xã hội và nhân loại, như đã được chứng minh qua nghiên cứu sâu rộng và được các phòng thí nghiệm AI hàng đầu thừa nhận. Chúng ta có nên để máy móc tràn ngập các kênh thông tin của mình bằng những lời tuyên truyền và thông tin sai sự thật không? Chúng ta có nên tự động hóa tất cả công việc? Chúng ta có nên mạo hiểm để mất quyền kiểm soát nền văn minh của mình không?".

Bức thư đến sau sự ra mắt vào giữa tháng 3 của GPT-4, bản cập nhật cho mô hình ngôn ngữ lớn cung cấp sức mạnh cho ChatGPT.

Theo openai, gpt-4 tiên tiến hơn trong ba lĩnh vực chính: tính sáng tạo, đầu vào trực quan và ngữ cảnh dài hơn. về khả năng sáng tạo, openai cho biết gpt-4 tốt hơn nhiều trong cả việc tạo và cộng tác với người dùng trong các dự án sáng tạo.

Gpt-4 hiện có thể xử lý tối đa 25.000 từ văn bản từ người dùng. bạn thậm chí có thể gửi cho gpt-4 một liên kết web và yêu cầu nó tương tác với văn bản từ trang đó. openai cho biết điều này có thể hữu ích cho việc tạo nội dung dài cũng như “các cuộc hội thoại mở rộng”.

GPT-4 hiện cũng có thể nhận hình ảnh làm cơ sở để tương tác. Trong ví dụ trên trang web GPT-4, mô hình ngôn ngữ mới được cung cấp hình ảnh của một số nguyên liệu làm bánh và được hỏi có thể làm gì với chúng.

Ngoài ra, openai cũng cho biết gpt-4 sử dụng an toàn hơn đáng kể so với thế hệ trước. theo báo cáo, gpt-4 có thể tạo ra nhiều phản hồi thực tế hơn 40% trong thử nghiệm nội bộ của chính openai, đồng thời giảm 82% khả năng "phản hồi yêu cầu cho nội dung bị cấm". theo openai, công ty đã dành 6 tháng để tinh chỉnh gpt-4 theo hướng an toàn và phù hợp hơn.

Openai cho biết gpt-4 được đào tạo với phản hồi của con người để đạt được những bước tiến này, đồng thời tuyên bố đã làm việc với “hơn 50 chuyên gia để có phản hồi sớm trong các lĩnh vực bao gồm an toàn và bảo mật ai”.

Sam Altman cho biết mô hình ngôn ngữ mới được cải tiến theo hướng sáng tạo hơn và ít thiên vị hơn so với bản trước đó. Ông nhấn mạnh đây là công nghệ AI tiên tiến chưa từng có, được đào tạo bằng cách sử dụng phản hồi của con người kết hợp công nghệ học sâu.

GPT-4 có khả năng xử lý đa phương thức đầu vào, gồm cả hình ảnh, giúp người dùng tương tác với nhiều chế độ. Việc chấp nhận hình ảnh đầu vào và xuất ra văn bản là tính năng chưa có trước đây, được đánh giá giúp người dùng có thêm tùy chọn để sáng tạo.

Sam altman nói gpt-4 có hàng loạt khả năng mà các hệ thống ai hiện chưa thể đạt được. cụ thể hơn, gpt-4 có thể đạt 1.410 điểm trong kỳ thi sat - một trong những kỳ thi chuẩn hóa cho việc đăng ký vào một số đại học tại mỹ; đạt 4 hoặc 5 trong thang điểm 5 của các kỳ thi nâng cao (ap) ở các bộ môn lịch sử nghệ thuật, sinh học, giải tích và hóa học - số điểm đủ cao để nhận được tín chỉ đại học.

Gpt-4 đã đánh bại 90% số người tham gia để vượt qua kỳ thi sát hạch trở thành luật sư mỹ, vượt 99% học sinh thi olympic sinh học. gpt-4 cũng đạt điểm cao nhất trong ít nhất 34 bài kiểm tra khác nhau trong các lĩnh vực như kinh tế vĩ mô, viết bài, toán học hay thậm chí nội dung về nghiên cứu rượu vang.

Hơn nữa, openai tuyên bố gpt-4 có thể lập trình bằng nhiều loại ngôn ngữ khác nhau, tạo kịch bản nội dung tùy theo yêu cầu, trả lời câu hỏi phức tạp cũng như tương tác với hình ảnh. với khả năng tạo văn bản nhiều hơn 8 lần so với gpt-3.5, openai cho biết mô hình ngôn ngữ mới có thể được sử dụng như một công cụ giảng dạy cho sinh viên.

Openai cũng lưu ý một số hạn chế của mô hình ngôn ngữ này. giống như các phiên bản trước của gpt, openai cho biết gpt-4 vẫn gặp vấn đề với “thành kiến xã hội, mơ hồ về một số sự kiện và câu hỏi thù địch”.

Nói cách khác, gpt-4 không hoàn hảo, nhưng openai cho biết đây là tất cả những vấn đề mà công ty đang nỗ lực giải quyết. openai viết rên trang web của mình: “tại một thời điểm nào đó, điều quan trọng là phải được đánh giá độc lập trước khi bắt đầu đào tạo các hệ thống ai trong tương lai”.

Đầu tháng 4, siqi chen, giám đốc điều hành công ty khởi nghiệp runway và nhà đầu tư ai, loan tin gpt-4 sẽ sớm được thay thế bằng gpt-5 vào cuối năm 2023. theo siqi chen, gpt-5 dự kiến sẽ hoàn thành quá trình huấn luyện vào tháng 12.2023.

“tôi được thông báo rằng gpt-5 dự kiến sẽ hoàn thành khóa huấn luyện vào tháng 12 này và openai hy vọng nó sẽ đạt được generative ai”, siqi chen viết.

Tuyên bố của siqi chen gây xôn xao bởi việc đạt được generative ai, hay khả năng hiểu và học hỏi bất kỳ nhiệm vụ trí tuệ nào như con người, sẽ cho phép máy móc thực hiện các mệnh lệnh rất dễ dàng. do gpt-4 còn lâu mới hoàn hảo dù đang dẫn đầu cuộc đua ai hiện nay, nhiều người sẽ thấy tuyên bố này đáng nghi ngờ. với điều này, siqi chen đã làm rõ lời của mình.

"để làm rõ, tôi không có ý nói rằng đạt được generative ai với gpt-5 là niềm tin chung trong openai, nhưng có những người trong đó tin rằng gpt-5 sẽ đạt được điều đó", siqi chen tweet.

Khả năng học và hiểu bất kỳ nhiệm vụ hoặc khái niệm nào mà con người có thể thực hiện được, gọi là generative ai. trong khi ai chỉ đề cập đến một máy có thể thực hiện các nhiệm vụ cụ thể. generative ai là cấp độ cao hơn của ai, không bị giới hạn các nhiệm vụ hoặc chức năng cụ thể.

Về mặt tích cực, generative ai có thể tăng năng suất bằng cách tăng tốc các quy trình được thực hiện bởi ai và giảm bớt công việc lặp đi lặp lại cho con người. tuy nhiên, việc cấp quyền lực quá lớn cho một ai có thể gây ra những tác động không lường trước và thậm chí tiêu cực. điều này có thể khiến cho chatbot trả lời giống con người cực kỳ thuyết phục, tuyên truyền và lan truyền thông tin sai lệch rộng rãi trên internet.