رسم توضيحي تجريدي لسكربت على جهاز مضيف يرسل طلبًا منقّطًا نحو الخارج إلى نقطة نهاية نموذج بعيدة، ويستقبل كتلة من التعليمات البرمجية المولّدة، مرسومًا كرسم تخطيطي لا كتصوير لأي نظام أو مؤسسة أو شخص حقيقي. شعار OrcaRouter مركّب في الزاوية السفلية اليمنى.
AI Safety Incidents

PROMPTFLUX وPROMPTSTEAL: أول برمجية خبيثة تسأل نموذجًا لغويًا كبيرًا عمّا يجب فعله بعد ذلك

الكاتب

jinhao.song

تاريخ النشر

أحدث النماذج · 20عرض جميع النماذج →
المعايير: Artificial Analysis · يُحدَّث يوميًا
العودة إلى جميع المقالات

في 5 نوفمبر 2025، نشرت Google Threat Intelligence Group تقرير "GTIG AI Threat Tracker: Advances in Threat Actor Usage of AI Tools"، وهو تقرير يصف ما يسميه أولى عائلات البرمجيات الخبيثة التي تستعلم نموذج لغة كبير أثناء تنفيذها. إحداها، PROMPTSTEAL، استخدمتها المجموعة المدعومة من الدولة الروسية APT28 (المتتبعة أيضًا باسم FROZENLAKE) ضد أهداف حكومية أوكرانية، إذ أرسلت مطالبات إلى Qwen2.5-Coder-32B-Instruct عبر Hugging Face API وشغّلت أي أوامر Windows عادت؛ وكان CERT-UA الأوكراني قد وثّق بالفعل العائلة نفسها في يوليو 2025 تحت اسم LAMEHUG. والأخرى، PROMPTFLUX، هي أداة إسقاط VBScript تجريبية تطلب من Gemini API إعادة كتابة شيفرتها الخاصة للتهرب من مكافحة الفيروسات، وتصرّح GTIG صراحةً بأنها "لا تُظهر قدرة على اختراق شبكة ضحية أو جهازها". الضرر في هذا السجل هو الحملة الأوكرانية؛ أما الجديد فهو أن نموذجًا، وليس مؤلف البرمجيات الخبيثة، هو من وفّر الأوامر. السجل الكامل، مع درجاته للخطورة والثقة، موجود في Orca AI Incident Archive، إلى جانب الإدخالات المجاورة عن البرمجيات الخبيثة التي تتحدث إلى نموذج أثناء التنفيذ.

هذا التمييز هو السبب في أن هذا الإدخال يُعدّ علامة فارقة بدلاً من أن يكون تقريرًا آخر عن التصيّد الاحتيالي. لقد استخدمت البرمجيات الخبيثة الذكاء الاصطناعي في وقت التأليف لعدة سنوات — مطوّر يسأل روبوت محادثة عن نص برمجي، ثم يثبّت النتيجة تثبيتًا صلبًا. لكن ما توثّقه GTIG مختلف من حيث النوع: فالكود الذي يعمل على جهاز الضحية ليس ثابتًا عند تجميع العينة. بل يُجلب في وقت التنفيذ من واجهة برمجة تطبيقات تجارية تابعة لطرف ثالث، ضمن مطالبة المهاجم نفسه، ويُنفّذ دون أن يقرأه إنسان. تصف GTIG النتيجة بأنها ذكاء اصطناعي "في الوقت المناسب" وتسميها "خطوة مهمة نحو برمجيات خبيثة أكثر استقلالية وتكيّفًا". كما تصف التقنية بأنها ناشئة، وعمود الحالة في التقرير نفسه هو أنفع ما فيه: فمن بين العائلات الخمس التي يسميها، ثلاث — FRUITSHELL وPROMPTSTEAL وQUIETVAULT — موسومة بـ"لوحظت في العمليات"، واثنتان، PROMPTFLUX وPROMPTLOCK، موسومتان بـ"تجريبية".

ما تقول GTIG إنها وجدته

التقرير هو تحديث لتحليل Google الذي أُجري في يناير 2025 لإساءة استخدام الذكاء الاصطناعي التوليدي، وتستند قاعدة أدلته إلى بيانات القياس عن بُعد الخاصة بـGoogle نفسها: المطالبات والنشاط الذي رصدته على Gemini، إضافة إلى عينات برمجيات خبيثة حللها باحثوها. ويسرد الجدول 1 من التقرير خمس عائلات برمجية بما يسميه GTIG «قدرات ذكاء اصطناعي جديدة»، ولكل منها حالة إما «لوحظت في العمليات» أو «تجريبية». ولا يندرج ضمن الفئة الأولى سوى PROMPTSTEAL، وله حملة نشطة يمكن عزوها إليه. أما PROMPTFLUX وPROMPTLOCK وغيرهما فمصنفة على أنها تجريبية أو كأدوات لا كعمليات.

الآلية في كلتا العائلتين البارزتين هي نفس الشكل. فبدلًا من تضمين قائمة أوامر، تتضمن العينة مطالبة — نص مشفّر بـ base64 في حالة PROMPTSTEAL، وتعليمة قابلة للتحليل آليًا في حالة PROMPTFLUX — وترسلها إلى واجهة برمجة تطبيقات (API) عامة لنموذج مع مفتاح مضمّن في الملف الثنائي، ثم تنفّذ الاستجابة. لم تحتج أي من العائلتين إلى ثغرة في خدمة مزوّد النموذج. فقد استخدمت كلتاهما واجهة API كما صُمّمت، ولهذا يصف GTIG المشكلة على أنها إساءة استخدام لقدرة مشروعة بدلًا من عيب تُغلقه رقعة.

A self-built comparison card headed “Two families, one archive record”, with two columns. Left column, PROMPTSTEAL, also reported as LAMEHUG: Python data miner packaged with PyInstaller; sends prompts to Qwen2.5-Coder-32B-Instruct through the Hugging Face API; asks for one-line Windows commands to collect system information and documents in named folders; executes the output locally and exfiltrates by SFTP or HTTP POST; poses as an image-generation program; used by APT28 against Ukraine; badge reads observed in operations. Right column, PROMPTFLUX: VBScript dropper with a Thinking Robot module; posts to the Gemini API with a hard-coded key and the gemini-1.5-flash-latest model tag; asks for VBScript obfuscation and antivirus-evasion code only; saves the regenerated script to the Windows Startup folder and copies itself to removable drives and mapped network shares; the AttemptToUpdateSelf routine is commented out; actor unattributed; badge reads experimental. The OrcaRouter logo is composited in the bottom-right corner.

PROMPTSTEAL: حملة حقيقية بعائد غير مُقاس

سبقت CERT-UA غيرها إلى ذلك. في 17 يوليو 2025، نشر فريق الاستجابة للطوارئ الحاسوبية في أوكرانيا تنبيهًا بشأن عائلة أطلق عليها اسم LAMEHUG، بعد تلقيه تقارير في 10 يوليو 2025 عن رسائل بريد إلكتروني مشبوهة أُرسلت من حسابات مخترقة وانتحلت شخصية مسؤولين وزارين. واستهدفت الرسائل "السلطات التنفيذية الحكومية" وحملت أرشيف ZIP يحتوي على ثلاث نسخ من الحمولة، بأسماء "Додаток.pif" و"AI_generator_uncensored_Canvas_PRO_v0.9.exe" و"image.py". وأرجعت CERT-UA النشاط إلى APT28 بثقة متوسطة — وهو تصنيف أدنى من التأكيد الجازم الذي قدمته GTIG بأن الفاعل مدعوم من الحكومة الروسية — ووصفت دور النموذج اللغوي الكبير (LLM) في سطر واحد: إنه "يُستخدم لتوليد أوامر استنادًا إلى تمثيلها النصي (الوصف)".

يضيف حساب GTIG التفاصيل التشغيلية. يتنكّر PROMPTSTEAL في هيئة برنامج «لتوليد الصور» يرشد المستخدم عبر المطالبات بينما يستعلم من Hugging Face في الخلفية — وهو تمويه يتوافق مع أسماء الملفات التي استعادتها CERT-UA. وتطلب المطالبات التي استعادتها GTIG معلومات النظام ومستندات في مجلدات محددة؛ ثم تُنفَّذ الأوامر المعادة، على حد تعبيرها، «محليًا على نحو أعمى» قبل تسريب المخرجات. وتقول GTIG إن هذه العائلة «من المحتمل أن تستخدم رموز API مسروقة» للوصول إلى Hugging Face، وإن التحليل يُظهر تطويرًا مستمرًا، مع إضافة عينات جديدة تشويشًا وتغيير أسلوب القيادة والتحكم. وأحصت متابعة أجرتها Cato Networks، ضُمّت إلى تغطية The Hacker News في 25 يوليو 2025، نحو 270 رمزًا من رموز Hugging Face مستخدمة للمصادقة، ولاحظت أن البرمجية الخبيثة تحمل أوصافًا محددة مسبقًا ومشفّرة بـ base64 للأهداف التي تريد أوامر بشأنها.

A self-built timeline card titled “How the record was built” listing six dated entries: early June 2025, GTIG identifies PROMPTFLUX, an experimental VBScript dropper calling the Gemini API; June 2025, GTIG identifies APT28 using PROMPTSTEAL against Ukraine; 10 July 2025, CERT-UA receives reports of phishing emails impersonating ministry officials; 17 July 2025, CERT-UA publishes its LAMEHUG advisory, linking the activity to APT28 with medium confidence; 25 July 2025, Cato Networks adds token and variant analysis as coverage is updated the same day; 5 November 2025, GTIG publishes the report naming both families and grading PROMPTFLUX as experimental. A footer notes that 5 November 2025 is the report's publication date, not the date of any intrusion. The OrcaRouter logo is composited in the bottom-right corner.

PROMPTFLUX: الذي لم يُستخدم

PROMPTFLUX هو الموضع الذي يتباعد فيه التقرير عن العناوين أكثر من أي موضع آخر. رصدته GTIG في أوائل يونيو 2025: أداة إسقاط VBScript cuyo مكوّنها المركزي، وهو وحدة أطلق عليها المؤلفون اسم "Thinking Robot"، يرسل طلب POST إلى نقطة نهاية Gemini API بمفتاح مضمّن ثابت، مع تحديد نموذج "gemini-1.5-flash-latest". ووسم "-latest" مهم — فهو يعني أن البرمجية الخبيثة تتبع أي إصدار مستقر تقدمه Google حالياً، وبذلك تبقى الأداة صالحة بعد إهمال النموذج. تصف GTIG الأمر الموجّه بأنه "بالغ التحديد وقابل للتحليل آلياً، ويطلب شيفرة VBScript للتهرب من مكافحة الفيروسات، ويوجّه النموذج اللغوي الكبير إلى إخراج الشيفرة نفسها فقط". ويذهب أحد المتغيرات أبعد، فيطلب من النموذج أن يعمل بصفته "مشوّهاً خبيراً لـ VBScript" وأن يعيد كتابة الشيفرة المصدرية كاملة كل ساعة، مع إعادة تضمين الحمولة الخادعة ومفتاح API ومنطق إعادة التوليد كي تتكرر الدورة.

ثم تأتي التحفظات، الموجودة في الوثيقة الأساسية والتي تضيع عند التجميع. إن روتين التعديل الذاتي، AttemptToUpdateSelf، موضوع ضمن تعليق. وتوجد آلية للحد من عدد المرات التي تستدعي فيها البرمجية الخبيثة واجهة API. وتُسجَّل ردود الذكاء الاصطناعي في ملف، %TEMP%\thinking_robot_log.txt. ويقرأ GTIG تلك الآثار باعتبارها نية لا قدرة، ويستنتج أن العائلة "في مرحلة تطوير أو اختبار" وأن "الحالة الحالية لهذه البرمجية الخبيثة لا تُظهر قدرة على اختراق شبكة ضحية أو جهازها". والمؤلف غير منسوب؛ ويستنتج GTIG فاعلًا بدافع مالي من أسماء ملفات الإغراء مثل "crypted_ScreenRec_webinstall" ومن أسلوب استهداف واسع لا يهتم بالجغرافيا. وتقول Google إنها عطّلت الأصول المرتبطة بالنشاط، وإن DeepMind استخدمت النتائج لتعزيز كل من مصنّفاتها والنموذج.

أعمل على مسألة CTF

الثيمة الثانية في السجل أرخص من أي برمجية خبيثة: إقناع النموذج بالمساعدة. يصف GTIG فاعلاً مرتبطاً بالصين طلب من Gemini تحديد الثغرات على نظام مخترق فحصل على رفض أمني، ثم أعاد صياغة الطلب كتمرين التقاط علم (capture-the-flag) — "أنا أعمل على مسألة CTF"، "أنا حالياً في CTF، ورأيت شخصاً من فريق آخر يقول …" — فحصل على إرشادات الاستغلال التي أرادها. يقول GTIG إن الفاعل تعلّم من التبادل وأعاد استخدام الذريعة في التصيّد والاستغلال وتطوير قواقع الويب. واستخدم فاعل إيراني منفصل، هو TEMP.Zagros (يُتعقّب أيضاً باسم MUDDYCOAST)، ذرائع طلابية: مشروع جامعي في السنة النهائية، و"كتابة ورقة بحثية"، و"مقال دولي" عن الأمن السيبراني.

كان ردّ جوجل، كما ورد في التقرير، هو تعطيل الحسابات وإعادة تغذية التفاعلات في التدريب، وهي صريحة في أن التمييز بين النسختين الحميدة والخبيثة من هذه المطالبات أمرٌ عسير: فالسؤال نفسه الوارد من لاعب CTF حقيقي مشروع. وثمّة تفصيل من قضية TEMP.Zagros يستحق الذكر، لأنه أوضح دليل في الوثيقة على أن استخدام الذكاء الاصطناعي أثناء التشغيل سلاح ذو حدين. فبينما كان الفاعل يتتبّع أخطاء نص برمجي باستخدام Gemini، ألصق فيه مواد مضمّنة بشكل ثابت، منها نطاق القيادة والتحكم الخاص به ومفتاح تشفير النص البرمجي، وهو ما تقول GTIG إنه غذّى تعطيلها الأوسع للحملة.

مُثبت، محلّ نزاع، غير مُثبت

يصنّف الأرشيف هذا السجل بدرجة ثقة A، غير متنازع عليه، مع تسجيل ضرر فعلي، والتسلسل الأساسي موثّق بالفعل مرتين من قِبَل أطراف لديها وصول مستقل: CERT-UA من بيانات الحوادث الأوكرانية، وGTIG من بيانات القياس عن بُعد الخاصة بمنتجات Google نفسها. تعيد منافذ مستقلة — The Hacker News وSecurityWeek وSecurity Affairs وWiz — ذكر الآليات دون تناقضها، كما تتطابق قراءة Wiz الخاصة لـ LAMEHUG مع وصف CERT-UA للمطالبات المُرمّزة بـ base64 وتنفيذ الأوامر. ما هو محل نزاع حقيقي هو الأهمية، لا الواقعة، ومن الجدير الفصل بينهما.

جادل ماركوس هاتشينز علنًا، في تعليقات نقلتها The Hacker News في 5 نوفمبر 2025، بأن قصة PROMPTFLUX مبالغ فيها. وكتب أن الـ prompt يعمل "على افتراض أن Gemini يعرف غريزيًا كيف يتجنب برامج مكافحة الفيروسات (وهو لا يعرف)"، وأنه "لا توجد إنتروبيا لضمان اختلاف الشيفرة 'ذاتية التعديل' عن الإصدارات السابقة، ولا أي ضوابط حماية لضمان أنها تعمل فعليًا" — اعتراض تقني يصيب مباشرة حقيقة أن روتين التحديث كان معطّلًا. وتوصلت Wiz إلى استنتاج مماثل بشأن استخدام نماذج اللغة الكبيرة (LLM) وقت التشغيل عمومًا: كان بإمكان المهاجمين توليد الشيفرة واختبارها مسبقًا، وكان ناتج النموذج غير متسق، وترك النهج سجلات تدقيق لدى مزود الخدمة. أما Cato Networks فقد قيّمت نشاط يونيو على أنه اختبار لقدرة جديدة في أوكرانيا وليس عملية كاملة الأركان. لا شيء من ذلك ينازع في أن PROMPTSTEAL نُفِّذ ضد أهداف حقيقية؛ لكن كل ذلك يتعلق بمدى ما أضافه نموذج اللغة الكبيرة.

A self-built three-column card headed “Established, attributed, not established”. Column one, established: GTIG published the report on 5 November 2025; CERT-UA reported the same family as LAMEHUG on 17 July 2025 from Ukrainian incident data; PROMPTSTEAL queried Qwen2.5-Coder-32B-Instruct through the Hugging Face API and executed the returned commands; PROMPTFLUX calls the Gemini API with a hard-coded key and a gemini-1.5-flash-latest tag; PROMPTFLUX's self-update routine is commented out and Google states it cannot compromise a device. Column two, attributed or assessed: CERT-UA links the activity to APT28 with medium confidence; GTIG states the actor is Russian government-backed; the use of stolen Hugging Face tokens is GTIG's assessment; the financially motivated reading of PROMPTFLUX is inferred from lure filenames; the evasion aim is GTIG's “likely”. Column three, not established: how much data was exfiltrated and from how many victims; whether any LLM-generated command succeeded in an intrusion; who wrote or operated PROMPTFLUX; any independent telemetry beyond the two reporting organisations; any action by Hugging Face or by law enforcement. A footer notes that the archive grades the record confidence A and not disputed, which concerns the documentation rather than the debate over significance. The OrcaRouter logo is composited in the bottom-right corner.

ما الذي تغيّر، وما لا يُظهره السجل

الاستجابة الموثقة هي استجابة Google. وتقول GTIG إنها عطّلت الأصول والحسابات الكامنة وراء حالات إساءة استخدام Gemini، وإن DeepMind استخدمت الملاحظات لتقوية كلٍّ من المصنّفات والنموذج بحيث يرفض هذه الطلبات في المستقبل. وتشير أيضًا إلى Secure AI Framework وإلى Big Sleep، وكيلها لاصطياد الثغرات، باعتبارهما الجانب الدفاعي من العملة نفسها. وما لا يسجله التقرير هو أي تغيير لدى Hugging Face، أو أي إزالة لبنية PROMPTSTEAL التحتية من جانب طرف غير الباحثين المُبلّغين، أو أي إجراء لإنفاذ القانون — كما لا يضع رقمًا للحملة: لا عدد للضحايا، ولا حجم للمستندات المسروقة، ولا بيانًا بأن الأوامر التي ولّدها LLM قد نجحت.

هذه الفجوة هي الشكل الصادق للسجل. شنّ فاعل دولة روسي حملة لسرقة البيانات ضد هيئات حكومية أوكرانية، كُتبت فيها أوامر جمع البيانات في وقت التشغيل بواسطة نموذج برمجي عام، وقد استُعيدت البرمجية الخبيثة ووُصفت بالتفصيل؛ أما مقدار ما حصلت عليه فغير وارد في أيٍّ من التنبيهين. وتُظهر عائلة ثانية أن البرمجيات الخبيثة ذاتية إعادة الكتابة التي تستدعي واجهة برمجة تطبيقات لنموذج تجاري قابلة للبناء اليوم، وأن مؤلفيها أنفسهم لم يكونوا قد فعّلوها بعد. تنتمي الحقيقتان إلى المدخل نفسه لأنهما وردتا في التقرير نفسه، وعمود الحالة في التقرير ذاته هو ما يُبقيهما منفصلتين. وإذا قُرئ الأمر على هذا النحو، فإن 5 نوفمبر 2025 يُحدّد التاريخ الذي كفّت فيه التقنية عن كونها افتراضية في حالة واحدة، وبقيت افتراضية في الحالة الأخرى.