Hệ thống kiểm duyệt của ứng dụng ChatGPT bị phá vỡ

ChatGPT bị phá vỡ bộ lọc kiểm duyệt

Để ChatGPT hoạt động an toàn, OpenAI có chính sách lọc nội dung, hạn chế một số thông tin nhạy cảm, gây khó chịu và có hại. Tuy nhiên, theo hãng bảo mật Check Point Research, không khó để tội phạm mạng vượt qua hàng rào kiểm duyệt của ChatGPT và lợi dụng điều này để kiếm tiền từ ChatGPT.

Để có thể thoải mái đọc báo online, xem phim Youtube, hoặc lướt mạng xã hội, nghe nhạc trực tuyến, mà không lo không có Wifi, thì bạn hãy nhanh tay đăng ký 4g vina để có thể nhận ngay ưu đãi data cực khủng để tha hồ xem phim trực tuyến, cập nhật tin tức mới trong ngày mà không sợ giật lag hay bị giới hạn dung lượng nhé!

Cụ thể, một số tin tặc sử dụng Giao diện lập trình ứng dụng OpenAI (API) và tạo các bot riêng, không hạn chế nội dung và có thể được tích hợp vào ứng dụng nhắn tin Telegram. Sau đó, hacker bán cho người có nhu cầu với giá 5,5 USD cho 100 truy vấn.

Một số tin tặc cũng vượt qua hệ thống kiểm duyệt của ChatGPT bằng cách tạo các tập lệnh riêng tư và công khai trên nền tảng GitHub. Phiên bản ChatGPT độc hại này có thể mạo danh các công ty và ngân hàng để tạo các mẫu email lừa đảo. Nó thậm chí còn hướng dẫn nơi tốt nhất để đặt các liên kết lừa đảo cho người dùng.

Kẻ xấu còn lợi dụng chatbot để tạo ra virus hoặc sửa đổi, cải tiến các mã độc hiện có, giúp những người thiếu kinh nghiệm viết mã độc dễ dàng hơn.

ChatGPT trở thành điểm lợi dụng của kẻ xấu

Theo Digital Trends, đây không phải là lần đầu tiên ChatGPT trở thành mục tiêu của những kẻ lừa đảo khi bộ lọc thông tin của nó bị phá vỡ. Vào tháng 1, hàng nghìn người đã bị lừa trả tiền cho các phiên bản của ứng dụng di động iOS và Android có tên “ChatGPT”, mặc dù chatbot chỉ hoạt động trong trình duyệt web.

Trong khi đó, công nghệ AI tương tự như ChatGPT giờ đây cũng được tích hợp sẵn trong công cụ tìm kiếm Bing của Microsoft, với khả năng trò chuyện chuyên sâu và chi tiết. Các chuyên gia lo ngại rằng điều này sẽ dẫn đến một loạt vấn đề với việc sử dụng tài liệu có bản quyền.

ChatGPT được OpenAI giới thiệu vào tháng 11 năm 2022 và thu hút sự chú ý khi có thể đưa ra câu trả lời theo ngữ cảnh cho nhiều chủ đề khác nhau. AI này hoạt động dựa trên mô hình NLP (Xử lý ngôn ngữ tự nhiên), được đào tạo với nguồn dữ liệu trực tuyến lớn để trả lời các câu hỏi của người dùng. ChatGPT mặc dù được đón nhận nồng nhiệt nhưng lại gây tranh cãi vì nó không thực sự hiểu nội dung. Nó chỉ đơn giản là thu thập các câu trả lời xác suất từ ​​hàng triệu ví dụ được sử dụng trong đào tạo.