Chatgpt đặc biệt thu hút sự chú ý của các nhà làm luật mỹ vì trở thành ứng dụng tiêu dùng phát triển nhanh nhất trong lịch sử với hơn 100 triệu người dùng hoạt động hàng tháng, gây bão internet nhờ khả năng viết câu trả lời nhanh chóng cho nhiều loại truy vấn.
Cục Quản lý Thông tin và Viễn thông Quốc gia (NTIA), cơ quan của Bộ Thương mại tư vấn cho Nhà Trắng về chính sách viễn thông và thông tin, muốn có ý kiến đóng góp vì "sự quan tâm pháp lý ngày càng tăng với cơ chế trách nhiệm về AI”.
NTIA muốn biết liệu có biện pháp nào có thể được đưa ra để đảm bảo "rằng các hệ thống AI là hợp pháp, hiệu quả, có đạo đức, an toàn và đáng tin cậy hay không".
“các hệ thống ai có trách nhiệm có thể mang lại những lợi ích to lớn, nhưng chỉ khi chúng ta giải quyết được những hậu quả và tác hại tiềm ẩn của chúng. để các hệ thống này phát huy hết tiềm năng, các công ty và người tiêu dùng cần có thể tin tưởng chúng”, quản trị viên ntia - alan davidson tuyên bố.
Tổng thống Joe Biden tuần trước cho biết vẫn còn phải xem liệu AI có nguy hiểm hay không. Ông nói: “Theo quan điểm của tôi, các hãng công nghệ có trách nhiệm đảm bảo sản phẩm của họ an toàn trước khi đưa ra thị trường”.
Được tạo bởi openai và microsoft hỗ trợ, chatgpt khiến nhiều người dùng kinh ngạc với việc trả lời nhanh các câu hỏi nhưng lại gây khó chịu cho những người khác vì đôi khi đưa ra thông tin không chính xác.
NTIA dự định sẽ viết một báo cáo khi nghiên cứu "những nỗ lực để đảm bảo các hệ thống AI hoạt động như được quảng cáo, không gây hại", đồng thời cho biết những nỗ lực này sẽ hỗ trợ cho công việc đang diễn ra của chính quyền Biden trong việc "đảm bảo cách tiếp cận toàn diện và gắn kết của chính phủ liên bang với những rủi ro và cơ hội liên quan đến AI".
Chính quyền Biden cho biết đang lấy ý kiến của công chúng về các biện pháp tăng cường trách nhiệm và giám sát tiềm năng với các hệ thống AICuối tháng 3, nhóm đạo đức công nghệ center for artificial intelligence and digital policy đã yêu cầu ủy ban thương mại liên bang mỹ (ftc) ngăn openai phát hành các bản phát hành thương mại mới của gpt-4.
Gpt (generative pre-training transformer) là mô hình ngôn ngữ lớn làm nền tảng cho chatgpt hoạt động.
Trong đơn khiếu nại gửi tới FTC, Center for Artificial Intelligence and Digital Policy đã gọi GPT-4 là "thiên vị, lừa dối, có nguy cơ với quyền riêng tư và an toàn công cộng", theo bản tóm tắt trên trang web của nhóm này.
OpenAI đã công bố phiên bản thứ tư của GPT hôm 14.3 với nhiều cải tiến, khiến người dùng phấn khích bằng cách thu hút họ vào các hoạt động giống như con người, trò chuyện, sáng tác bài hát và tóm tắt các tài liệu dài.
Trong đơn khiếu nại, center for artificial intelligence and digital policy cho biết chatgpt-4 của openai không đáp ứng tiêu chuẩn của ftc là "minh bạch, có thể giải thích rõ ràng và dễ hiểu, không thiên vị, có cơ sở kinh nghiệm (được chứng minh bằng các thực nghiệm và chứng cứ khác), đảm bảo sự chịu trách nhiệm trong quá trình thực hiện".
"ftc có trách nhiệm rõ ràng trong việc điều tra và nghiêm cấm các hành vi thương mại không công bằng và lừa dối. chúng tôi tin rằng ftc nên xem xét kỹ openai và gpt-4", marc rotenberg, chủ tịch center for artificial intelligence and digital policy và là người ủng hộ quyền riêng tư lão làng, cho biết trong một tuyên bố trên trang web.
Center for Artificial Intelligence and Digital Policy đã thúc giục FTC "mở cuộc điều tra về OpenAI, ngăn chặn việc tiếp tục phát hành phiên bản GPT-4 thương mại mới và đảm bảo thiết lập các biện pháp bảo vệ cần thiết để bảo vệ người tiêu dùng, doanh nghiệp, thị trường".
Động thái trên diễn ra sau khi Elon Musk, nhiều chuyên gia AI cùng các nhà quản lý ngành công nghiệp đang kêu gọi tạm ngừng đào tạo các hệ thống AI mạnh hơn GPT-4 trong vòng 6 tháng vì nguy cơ tiềm tàng với xã hội và nhân loại. Họ cho biết điều này trong một bức thư ngỏ.
Bức thư do tổ chức phi lợi nhuận Future of Life Institute công bố và có chữ ký của hơn 1.800 người, gồm cả Marc Rotenberg, Elon Musk, Steve Wozniak (đồng sáng lập Apple) và Emad Mostaque (Giám đốc điều hành Stability AI), kêu gọi tạm dừng phát triển AI tiên tiến cho đến khi các giao thức an toàn chung cho các thiết kế như vậy được phát triển, triển khai và được kiểm tra bởi các chuyên gia độc lập.
"Các hệ thống AI mạnh mẽ chỉ nên được phát triển khi chúng tôi tin tưởng rằng tác động của chúng sẽ tích cực và rủi ro của chúng sẽ có thể kiểm soát được", bức thư viết.
Bức thư cũng trình bày chi tiết những rủi ro tiềm ẩn với xã hội và nền văn minh do các hệ thống AI cạnh tranh với con người, dưới hình thức gây ra gián đoạn kinh tế và chính trị, đồng thời kêu gọi các nhà phát triển hợp tác cùng các nhà hoạch định chính sách về quản trị và cơ quan quản lý.
Bức thư được đưa ra khi lực lượng cảnh sát EU Europol hôm 27.3 đã bày tỏ mối lo ngại về đạo đức và pháp lý với AI tiên tiến như ChatGPT, cảnh báo về khả năng lạm dụng hệ thống trong các nỗ lực lừa đảo, phát tán thông tin sai lệch và tội phạm mạng.
Kể từ khi được openai phát hành vào tháng 11.2022, chatgpt đã gây ra một cơn sốt công nghệ, khiến các đối thủ tung ra các sản phẩm tương tự và các công ty tích hợp nó hoặc các công nghệ tương tự vào các ứng dụng và sản phẩm của họ.
“Do các mô hình ngôn ngữ lớn như GPT đang tích cực được cải tiến, khả năng khai thác tiềm năng của những loại hệ thống AI này bởi các tội phạm dẫn đến tầm nhìn u ám”, Europol nói khi trình bày báo cáo công nghệ đầu tiên của mình bắt đầu với chatbot.
Europol chỉ ra việc sử dụng chatgpt có hại trong ba lĩnh vực tội phạm.
Europol cho biết: “khả năng của chatgpt trong việc soạn thảo văn bản vô cùng thực tế khiến nó trở thành công cụ hữu ích cho mục đích lừa đảo cá nhân”.
Với khả năng tái tạo các mẫu ngôn ngữ để bắt chước phong cách nói chuyện của các cá nhân hoặc nhóm cụ thể, chatgpt có thể được sử dụng bởi tội phạm để nhắm mục tiêu vào các nạn nhân, cơ quan thực thi pháp luật của eu nói.
Europol nói rằng khả năng của chatgpt trong việc sản xuất văn bản chân thực với tốc độ và quy mô lớn cũng khiến nó trở thành một công cụ lý tưởng cho hoạt động tuyên truyền và phát tán thông tin sai lệch.
"ChatGPT cho phép người dùng tạo và phổ biến những thông điệp phản ánh một câu chuyện cụ thể với tương đối ít nỗ lực", Europol cho hay.
Europol nói rằng tội phạm không có nhiều kiến thức kỹ thuật có thể sử dụng chatgpt để tạo ra mã độc.
cơ quan giám sát internet trung quốc đề xuất quy tắc, đánh giá bảo mật với chabot ai tương tự chatgpt
Cơ quan giám sát internet của trung quốc đã tiết lộ một bộ quy tắc dự thảo mới nhắm mục tiêu vào các dịch vụ tương tự chatgpt.
Các công ty cung cấp dịch vụ generative ai ở trung quốc phải thực hiện các biện pháp ngăn chặn nội dung phân biệt đối xử, thông tin sai lệch và nội dung gây hại cho quyền riêng tư cá nhân hoặc sở hữu trí tuệ, theo quy định đề xuất do cục quản lý không gian mạng trung quốc (cac) công bố hôm 11.4.
Cac cho biết các doanh nghiệp cũng nên đảm bảo rằng các sản phẩm của họ tôn trọng giá trị xã hội chủ nghĩa của trung quốc và không tạo ra nội dung gợi ý lật đổ chế độ, bạo lực, nội dung khiêu dâm hoặc phá vỡ trật tự kinh tế và xã hội.
Tất cả sản phẩm generative ai phải vượt qua đánh giá bảo mật của cac trước khi phục vụ công chúng, theo yêu cầu từ quy định năm 2018 về các dịch vụ thông tin trực tuyến có khả năng gây ảnh hưởng đến dư luận.
Tạo ra nội dung gốc dựa trên lời nhắc bằng văn bản, hình ảnh hoặc âm thanh, generative ai đã thu hút được sự quan tâm ngày càng tăng ở trung quốc sau khi openai ra mắt chatgpt vào tháng 11.2022.
Tại trung quốc, nơi chatgpt vẫn chưa chính thức khả dụng, các công ty trong nước đã chạy đua để tung ra các công nghệ tương tự chatbot của openai. trong đó, nhà điều hành tìm kiếm web baidu tiết lộ ernie bot vào tháng trước và gã khổng lồ thương mại điện tử alibaba lên kế hoạch tích hợp tongyi qianwen vào tất cả sản phẩm của mình. ngày 10.4, sensetime công bố một loạt sản phẩm mới được trang bị ai bao gồm chatbot và trình tạo hình ảnh từ văn bản. sensetime cho biết các sản phẩm này dựa trên phiên bản mới nhất mô hình ngôn ngữ lớn sensenova mà công ty đã phát triển trong 5 năm qua.
Người sáng lập kiêm Giám đốc điều hành Baidu, Lý Ngạn Hoành, phát biểu tại buổi ra mắt Ernie Bot tại Bắc Kinh, thủ đô Trung Quốc hôm 16.3 - Ảnh: AFPTuy nhiên, khi mối quan tâm đến ai tăng lên, chính quyền trung quốc đã cảnh giác với những rủi ro do lĩnh vực đang phát triển nhanh chóng gây ra.
Các phương tiện truyền thông nhà nước đã nhiều lần cảnh báo về “bong bóng thị trường” và “thổi phồng quá mức” xung quanh các công cụ generative ai, với một tờ báo gần đây cảnh báo rằng chatgpt có thể làm suy đồi thay vì cải thiện đạo đức của người dùng.
Hôm 10.2, hiệp hội thanh toán & thanh lý của trung quốc, do ngân hàng trung ương quốc gia này quản lý, kêu gọi những người làm trong ngành lưu ý đến những rủi ro liên quan đến việc sử dụng các công cụ giống chatgpt cho công việc và tránh tải thông tin bí mật và nhạy cảm lên các dịch vụ đó.
Các quốc gia khác cũng đang cân nhắc các quy định về generative AI.
Bộ thương mại mỹ hôm 11.4 đã bắt đầu mời công chúng bình luận về cách các nhà hoạch định chính sách nên tiếp cận các công cụ ai ngày càng tinh vi. cuối tháng trước, ý đã trở thành quốc gia phương tây đầu tiên tạm thời cấm chatgpt do lo ngại về quyền riêng tư.
Trong khi đó, Liên minh châu Âu (EU) đang thảo luận về Đạo luật AI, lần đầu tiên được đề xuất vào năm 2021 để điều chỉnh việc sử dụng các sản phẩm AI theo mức độ rủi ro của chúng.
Khung pháp lý của eu, tuân theo một cách tiếp cận khác với các quy tắc dự thảo của cac, có khả năng áp đặt “gánh nặng tuân thủ cực kỳ nặng nề với các công ty”, theo bà angela zhang, phó giáo sư luật tại đại học hồng kông. thay vào đó, dự thảo quy định của trung quốc chủ yếu tập trung vào kiểm duyệt nội dung, angela zhang nói.
Angela Zhang cho hay: “Những yêu cầu về nội dung này không phải là mới với các công ty internet Trung Quốc, vì vậy tôi không nghĩ rằng việc công bố các quy tắc mới này sẽ tạo thêm gánh nặng cho các công ty Trung Quốc”.
Tuy nhiên, một số chuyên gia đã chỉ ra rằng kiểm duyệt là rào cản với các công ty trung quốc đang hy vọng tạo ra một đối thủ thực sự của chatgpt.
Hanna Dohmen, nhà phân tích nghiên cứu tại Trung tâm Công nghệ An ninh và Mới nổi của Đại học Georgetown, nhận định: “Những hạn chế, quy định nội dung và kiểm duyệt quá mức có thể cản trở quá trình thương mại hóa và đổi mới hơn nữa những công nghệ như vậy”.
CAC đang thu hút phản hồi về các quy tắc được đề xuất cho đến ngày 10.5.
Chủ đề liên quan:
alibaba Baidu chatbot AI ChatGPT Ernie Bot Generative AI OpenAI SenseTime Tongyi Qianwen trung quốc