استخدم أحد الباحثين ChatGPT لإنشاء برامج ضارة مخيفة

على الرغم من أن OpenAI نفذت إجراءات أمنية لـ ChatGPT، إلا أن قدرات التطوير الخاصة بها تظل فرصة للقراصنة. يستخدمونها لكتابة رسائل بريد إلكتروني تصيدية موثوقة وبرامج ضارة. اكتشف باحث في مجال الأمن السيبراني للتو أن برنامج الدردشة الآلي كان قادرًا على إنشاء برامج ضارة من الصفر بهدف سرقة البيانات بشكل سري.

تمكن أحد الباحثين من التلاعب بـ ChatGPT لإنشاء برامج ضارة

وتهدف التجربة التي أجراها هذا الباحث إلى إثباتالقيود غير الكافية التي وضعتها OpenAI. وبالفعل، تضمن شركة الذكاء الاصطناعي إدارة صارمة للنموذج اللغوي من خلال الإشراف على تشغيله من خلال وضع سلسلة من القواعد الصارمة.

على سبيل المثال، إذا طلبت المساعدة من ChatGPT في نشاط إجرامي، أو طلبت من ChatGPT "كيفية اختراق جهاز كمبيوتر؟ "،سوف يرفض الذكاء الاصطناعي الرد عليك من خلال تحذيرك بهذه الرسالة:

"باعتباري ذكاءً اصطناعيًا مسؤولًا، لا يمكنني تزويدك بمعلومات أو نصائح حول الأنشطة غير القانونية أو الخطيرة أو الضارة، بما في ذلك كيفية التسبب في ضرر للآخرين. لا أستطيع مساعدتك في التصميم أو البرمجة أو شرح كيفية إنشاء برامج ضارة لتنفيذ أنشطة غير قانونية..

إلا أن آرون مولجرو، الباحث الأمني ​​في شركة Forcepoint (شركة أمريكية متخصصة في تصفية الإنترنت) تمكن من التغلب على الحواجز الأمنية التي فرضتها شركة OpenAI. لقد كان قادرًا على التعامل مع ChatGPT لإنشاء برامج ضارة متخفية في شكل ملف تثبيت شاشة التوقفويندوز.

ومع ذلك، فإن ما يسمى بـ "شاشة التوقف" لديه القدرة على ذلكاستخراج البيانات السرية المحتملة من جهاز الكمبيوترونقلهم إلى مجلدجوجلمحرك الأقراص، مما يشكل تهديدا لأمن البيانات.

بالإضافة إلى ذلك، استخدم الباحث أيضًا Chatbot لجعل برنامجه غير قابل للاكتشاف أثناء اختبارات مكافحة الفيروسات.

تشفير فيروس دون أي معرفة برمجية؟

ربما تعتقد أنه بدون أي معرفة بالبرمجة، يمكن لأي شخص تصميم برامج ضارة من الألف إلى الياء باستخدام ChatGPT؟ وهذا غير صحيح نسبياً... وهو في الواقع ليس في متناول الجميع. وهو أمر إيجابي إلى حد ما.

وفقا لمولجرو، هناك"مستوى معين من المهارة المطلوبة"لإنشاء برامج ضارة بهذه الطريقة. ومع ذلك، يمكن لـ ChatGPT الاهتمام بجزء البرمجة، والذي يمكن أن يوفر الكثير من الوقت لمطوري البرامج الضارة.