Dark Sourcery: หน้าเว็บที่ถูกวางยาพิษ แบรนด์ 374 ราย และคำตอบที่ไม่มีใครตรวจสอบ

เมื่อวันที่ 23 กันยายน 2026 บริษัทด้านความปลอดภัย Vigilance Security ได้เผยแพร่ผลการวิจัยที่อธิบายแคมเปญที่ยังดำเนินอยู่ซึ่งบริษัทเรียกว่า Dark Sourcery: ผู้โจมตีทำให้เว็บสาธารณะเต็มไปด้วยโพสต์ PDF รีวิว และหน้าช่วยเหลือปลอมที่ปรับแต่งมาเป็นจำนวนมาก เพื่อให้ ChatGPT, Google Gemini และ Google AI Overviews ส่งคืนหมายเลขโทรศัพท์ ที่อยู่อีเมล และหน้าเข้าสู่ระบบอันเป็นการฉ้อโกงในฐานะข้อมูลติดต่ออย่างเป็นทางการของบริษัท Dark Reading รายงานผลการวิจัยนี้ในวันเดียวกัน โดยระบุชื่อ Delta, Lufthansa, Qatar Airways, Chase, Bank of America, Airbnb และ TripAdvisor ว่าเป็นหนึ่งในบริษัทอย่างน้อย 374 แห่งที่พัวพันกับแคมเปญนี้ โดยมีหน้าอันตรายหลายหมื่นหน้าเป็นเบื้องหลัง ไม่มีการเจาะระบบโมเดลใด ๆ — หน้าที่ถูกวางยาพิษเป็นเพียงสิ่งที่โมเดลอ่าน และการฉ้อโกงก็มาพร้อมกับความน่าเชื่อถือของผู้ช่วยเอง บันทึกนี้เป็นหนึ่งรายการใน คลังเหตุการณ์ AI ของ OrcaRouter ซึ่งติดตามเหตุการณ์ AI และผลการวิจัยด้วยฟิลด์เดียวกับที่ใช้ที่นี่: ระดับความรุนแรง ระดับความเชื่อมั่น สถานะที่มีข้อโต้แย้ง และความเสียหายจริง

สิ่งที่ Vigilance Security เผยแพร่จริง ๆ

งานวิจัยนี้เป็นโพสต์บน Medium โดย Ariel Simon รองประธานฝ่ายวิจัยของ Vigilance ชื่อ “Dark Sourcery: How Hackers Manipulate AI to Scam You” เผยแพร่เมื่อวันที่ 23 กันยายน 2026 บทความของ Dark Reading ซึ่งเขียนโดย Elizabeth Montalbano นักเขียนร่วม และระบุเวลา 14:47 UTC ของวันนั้น ลิงก์ตรงไปยังโพสต์ดังกล่าวและอ้างคำพูดของ Simon ตลอดทั้งบทความ โพสต์นี้อธิบายปฏิบัติการด้านเนื้อหา มากกว่าการโจมตีช่องโหว่: ไม่มีการใช้ช่องโหว่ใด ๆ ไม่มีข้อมูลรับรองใดถูกขโมยโดยผู้โจมตีโดยตรง และไม่มีการส่งสิ่งใดไปยังโมเดลในลักษณะที่โมเดลจะเรียนรู้ที่จะปฏิเสธได้

Vigilance กล่าวว่าพวกเขาตรวจพบ "หน้าเว็บอันตรายหลายหมื่นหน้า" ซึ่งมีหมายเลขฝ่ายสนับสนุนปลอม ที่อยู่อีเมลปลอม หน้าเข้าสู่ระบบปลอม ข้อมูลอัปเดตซอฟต์แวร์ปลอม และรายละเอียดฉ้อโกงอื่น ๆ โดยสร้างขึ้นเพื่อกำหนดสิ่งที่แชตบอตพูด ทางบริษัทระบุว่ามีบริษัทที่เกี่ยวข้องอย่างน้อย 374 แห่ง ซึ่งอธิบายว่าครอบคลุมถึงองค์กรใน Fortune 100 สายการบินรายใหญ่ ธนาคาร บริษัทท่องเที่ยว และผู้ให้บริการซอฟต์แวร์ แบรนด์ที่ถูกระบุชื่อในรายงานของ Dark Reading ได้แก่ Delta, Lufthansa, Qatar Airways, Chase, Bank of America, Airbnb และ TripAdvisor

ทั้งโพสต์งานวิจัยและรายงานข่าวที่ตามมาไม่ได้ให้รายละเอียดแยกตามแบรนด์ว่า หมายเลขปลอมหมายเลขใดเป็นของบริษัทใด มีหน้าเว็บที่ถูกวางยาพิษกี่หน้ากำหนดเป้าหมายไปที่แต่ละแบรนด์ หรือหน้าใดหน้าหนึ่งถูกเผยแพร่ขึ้นเมื่อใด ตัวเลข 374 ถูกนำเสนอเป็นยอดรวม และบันทึกก็ระบุในลักษณะเดียวกัน

Simon ยังอ้างอิงการศึกษาชิ้นหนึ่งของ Exploding Topics ซึ่งเผยแพร่ในเดือนสิงหาคม 2026 ที่พบว่า 91% ของผู้ใช้แชตบอต AI ไม่ตรวจสอบคำตอบที่ได้รับ ตัวเลขดังกล่าวเป็นข้อสมมติตั้งต้นของแคมเปญมากกว่าจะเป็นการวัดของแคมเปญเอง โดยมีการยกคำกล่าวนี้ในงานวิจัยและถูกกล่าวซ้ำโดย Dark Reading และ IANS ทั้งยังไม่มีการอธิบายระเบียบวิธีของตัวเลขนี้เองในเนื้อหาการรายงานข่าวใด ๆ ที่ตรวจทานในที่นี้ ในการวางกรอบของ Simon กล่าวว่า “หากผู้โจมตีควบคุม AI และเราเชื่อมันอย่างไม่ลืมหูลืมตา พวกเขาก็ควบคุมเราได้โดยพื้นฐาน”

การวางยาพิษถูกสร้างขึ้นอย่างไร

กลไกนี้มีสามส่วน และมีเพียงส่วนแรกเท่านั้นที่ถือว่าเป็นของผู้โจมตีในความหมายทั่วไปใด ๆ ประการแรก หว่านหน้าเว็บที่ระบุรายละเอียดการติดต่ออันเป็นเท็จลงในเว็บ ประการที่สอง ทำให้หน้าเว็บเหล่านั้นดูราวกับว่ามาจากแหล่งที่ระบบสืบค้นควรเชื่อถือ ประการที่สาม ปล่อยให้ผู้ช่วยเป็นผู้ทำการอ้างอิง

ขั้นตอนที่สองเป็นขั้นตอนที่ Vigilance ให้น้ำหนักมากที่สุด “เราสงสัยว่าโดเมนที่มีอำนาจสูง (มหาวิทยาลัย ภาครัฐ) เมื่อรวมกับแหล่งความคิดเห็นสาธารณะ (โซเชียลมีเดีย ฟอรัม รีวิวจากผู้ใช้) ประสบความสำเร็จสูงในการทำให้คำตอบของ AI เป็นพิษ” Simon กล่าวกับ Dark Reading “ขึ้นอยู่กับโมเดล AI จะพิจารณาแหล่งที่มาและเชื่อถือเนื้อหามากขึ้นหากเนื้อหามาจากหน่วยงานที่มีอำนาจ” นั่นคือคำอธิบายของชื่อเสียงที่ยืมมา: หน้าเว็บมหาวิทยาลัยที่ถูกบุกรุกหรือถูกนำไปใช้ในทางที่ผิดจะมอบความน่าเชื่อถือ ส่วนกระทู้ในฟอรัมและรีวิวที่กระจัดกระจายจะสร้างภาพลักษณ์ว่าข้อกล่าวอ้างนั้นได้รับการยืนยันจากที่อื่น

Ground Truth สื่อที่ตรวจสอบข้อกล่าวอ้างเกี่ยวกับ AI เทียบกับแหล่งที่มาของข้อกล่าวอ้างเหล่านั้น ได้สรุปกลยุทธ์การหว่านข้อมูลที่ระบุไว้ในโพสต์ของ Simon ว่า ได้แก่ การแพร่กระจายข้อมูลติดต่อที่เป็นเท็จแบบเดียวกันหรือคล้ายกันไปทั่วโพสต์ที่ผู้ใช้สร้าง ไฟล์ PDF หน้าเว็บที่โฮสต์ไว้ รีวิว แพลตฟอร์มระดมทุนและหางาน และเนื้อหาแบบถาม-ตอบ; รายละเอียดที่ปรับแต่งมาเพื่อการดึงข้อมูลด้วยการจัดรูปแบบและวลีที่ซ้ำกัน เช่น "24/7" และ "updated 2026"; และหมายเลขโทรศัพท์เดียวกันที่แสดงด้วยช่องว่าง จุด อีโมจิ ตัวอักษรยูนิโคดที่คล้ายกัน หรือคำที่เขียนออกมาเป็นตัวอักษร เทคนิคสุดท้ายนี้ทำหน้าที่สองอย่าง — มันหลบเลี่ยงการตรวจจับสตริงซ้ำได้ ในขณะที่โมเดลยังคงอ่านเป็นหมายเลขเดียว Ground Truth อธิบายวัตถุประสงค์ไว้อย่างแม่นยำ: ไม่ใช่หน้าเว็บไวรัลเพียงหน้าเดียว แต่เป็น "ภาพลักษณ์ของการมีแหล่งยืนยันที่เป็นอิสระ"

บทความของ GIGAZINE เกี่ยวกับงานวิจัยนี้ยกตัวอย่างที่เป็นรูปธรรมหนึ่งตัวอย่าง ได้แก่ โพสต์สนับสนุนเครื่องพิมพ์ HP และภาพที่ถูกกุขึ้น ซึ่งแนบหมายเลขโทรศัพท์ที่ไม่ใช่ของ HP นี่เป็นตัวอย่างของรูปแบบดังกล่าวมากกว่าจะเป็นกรณีที่ผ่านการตรวจสอบ และสื่อดังกล่าวระบุที่มาว่าเป็นข้อมูลจากงานวิจัยของ Vigilance ไม่ใช่จากการสอบสวนของตนเอง

ไม่ใช่การฉีดพรอมต์ — แต่ถูกบันทึกไว้ในลักษณะนั้น

ความแตกต่างนี้สำคัญ และ Simon ชี้ให้เห็นอย่างชัดเจน Dark Reading อ้างคำพูดของเขาว่าแคมเปญนี้แตกต่างจาก prompt injection "ตรงที่มันไม่เกี่ยวข้องกับการที่ผู้โจมตีให้คำสั่งหรือพรอมป์ต์ที่ชัดเจนแก่ AI ซึ่งอาจถูกขัดขวางโดยการป้องกันของ AI" ถ้อยคำที่คมกว่าของเขาคือ "ในกรณีนี้ ข้อมูลบิดเบือนที่แสดงเป็นข้อเท็จจริงกำลังทำให้ AI ตอบผู้ใช้ด้วยข้อมูลเท็จ โดยไม่เคยปฏิบัติตามคำสั่ง/พรอมป์ต์ใด ๆ ของผู้โจมตีเลย ซึ่งโดยพื้นฐานแล้วเป็นการข้ามการป้องกันทั้งหมด"

นอกจากนี้ยังแตกต่างจากการปนเปื้อนข้อมูลฝึก ซึ่งทำให้สิ่งที่โมเดลเรียนรู้ก่อนการนำไปใช้งานเสียหาย ทุกสิ่งที่นี่เกิดขึ้นในเวลาเรียกค้นข้อมูล เทียบกับเว็บที่ใช้งานจริง หลังจากโมเดลถูกปล่อยออกไปแล้ว — นี่คือเหตุผลว่าทำไมการฝึกใหม่จึงไม่สามารถแก้ไขได้ และทำไมหน้าเว็บที่ถูกปนเปื้อนจึงสามารถถูกนำออกได้โดยที่คำตอบอาจไม่จำเป็นต้องเปลี่ยน

คลังเก็บจัดเก็บบันทึกนี้ไว้ภายใต้ IPI ซึ่งเป็นแท็ก indirect-prompt-injection ของมัน อ่านให้ดี แท็กกับงานวิจัยกำลังอธิบายสิ่งที่มีความเกี่ยวเนื่องกัน: IPI ครอบคลุมเนื้อหาที่ไปถึงโมเดลโดยทางอ้อม ภายในเนื้อหาที่โมเดลถูกขอให้ประมวลผล มากกว่าที่จะถูกพิมพ์โดยผู้ใช้ของมัน Dark Sourcery คือช่องทางนั้นโดยที่คำสั่งถูกถอดออกไป — เพย์โหลดเป็นข้อเท็จจริง ไม่ใช่คำสั่ง แท็กคือการตัดสินใจจัดเก็บเกี่ยวกับช่องทาง ส่วนคำอธิบายของ Simon เป็นข้อกล่าวอ้างเกี่ยวกับเพย์โหลด และทั้งสองไม่ได้ขัดแย้งกัน สิ่งที่แท็กไม่ควรถูกอ่านว่าเป็น คือข้อยืนยันว่ามีการส่งพรอมป์ของผู้โจมตีมา เพราะตามคำอธิบายของงานวิจัยเอง ไม่มีเลย

สิ่งที่บันทึกยืนยัน และสิ่งที่บันทึกไม่ได้ยืนยัน

หอจดหมายเหตุให้เกรดบันทึกนี้เป็น B — มีเอกสารยืนยัน แต่มาจากแหล่งเดียวหรือแหล่งรอง — และเกรดนั้นคือสิ่งที่มีประโยชน์ที่สุดในบันทึกนี้ ไม่มีสิ่งใดในเนื้อหาที่ตรวจสอบ ณ ที่นี้ที่ขัดแย้งกับงานวิจัย ปัญหาไม่ใช่ความขัดแย้ง แต่คือสายโซ่หลักฐานนั้นมีเอกสารรองรับเพียงฉบับเดียว

• ข้อเท็จจริงที่ยืนยันแล้ว: Vigilance Security เผยแพร่งานวิจัยเมื่อวันที่ 23 กันยายน 2026 ภายใต้ชื่อของ Simon และงานวิจัยดังกล่าวได้กล่าวอ้างตามที่อธิบายไว้ข้างต้น — บริษัท 374 แห่ง หน้าจำนวนหลายหมื่นหน้า แบรนด์ที่ระบุชื่อ กลไกที่ใช้ และกลยุทธ์การยืมบารมี

• ยืนยันแล้ว: งานวิจัยนี้ได้รับการรายงานในวันเดียวกันโดย {{1}}Dark Reading{{/1}} และภายในห้าวันโดย {{2}}IANS{{/2}} (24 กันยายน), {{3}}GIGAZINE{{/3}} และ {{4}}Ground Truth{{/4}} (25 กันยายน), {{5}}NEWSru.co.il{{/5}} ซึ่งอ้างอิง {{6}}Israel Defense{{/6}} สื่ออิสราเอล (27 กันยายน) และหน้าเว็บงานวิจัยของผู้จำหน่ายที่ {{7}}Aviatrix{{/7}} (23 กันยายน) และ {{8}}Kronus Intelligence Group{{/8}} (28 กันยายน)

• ไม่ได้พิสูจน์ด้วยสิ่งนั้น: การตรวจสอบยืนยันอย่างอิสระ บทความเหล่านี้แต่ละชิ้นสืบย้อนกลับไปยังโพสต์ของ Simon หรือรายงานของ Dark Reading เกี่ยวกับโพสต์นั้น ดังนั้นจึงเป็นการเผยแพร่ข้อกล่าวอ้างมากกว่าที่จะทดสอบข้อกล่าวอ้างเหล่านั้น URL แห่งที่สองที่คลังข้อมูลเองอ้างอิงคือ bestsec.net ซึ่งเป็นบทสรุปข่าวความมั่นคงปลอดภัยไซเบอร์ที่เปลี่ยนเนื้อหาทุกวัน เมื่อวันที่ 26 ตุลาคม 2026 หน้าแรกของเว็บไซต์ดังกล่าวไม่มีรายการเกี่ยวกับ Dark Sourcery ดังนั้นชิ้นงานของ Dark Reading จึงเป็นแหล่งอ้างอิงที่คงอยู่ถาวร

• ยังไม่เป็นที่ยืนยัน: ขนาดของเหตุการณ์ Ground Truth ระบุอย่างชัดเจนว่า "ข้อกล่าวอ้างในรายงานเปิดเผยว่ามีบริษัทที่ได้รับผลกระทบ 374 แห่งและหน้านับหมื่นหน้านั้นยังไม่ได้รับการตรวจสอบอย่างเป็นอิสระ" และไม่มีการเผยแพร่ชุดข้อมูลสาธารณะ คลังหน้าเว็บที่เป็นอันตราย หรือบันทึกการค้นหาที่ทำซ้ำได้ใด ๆ การวิเคราะห์ของ Kronus Intelligence Group เมื่อวันที่ 28 กันยายนได้ข้อสรุปเดียวกัน และเสนอป้ายกำกับที่เป็นประโยชน์ว่า ให้อธิบายกลไกว่าเป็นสิ่งที่ยืนยันแล้ว และอธิบายขนาดของเหตุการณ์ว่า "มีรายงานแต่ยังไม่ได้รับการยืนยัน"

• ยังไม่ได้รับการยืนยัน: ความสามารถในการทำซ้ำ ตามคำบอกเล่าของนักวิจัยเอง Ground Truth รายงานว่า Simon อธิบายผลลัพธ์ว่าเป็นเชิงสถิติ และกล่าวว่าผลลัพธ์ไม่ได้เกิดขึ้นซ้ำทุกครั้งที่มีการรันคำค้นหา นั่นเป็นคุณสมบัติปกติของระบบที่เสริมด้วยการค้นคืน — การจัดอันดับ เวอร์ชันของโมเดล ตำแหน่งที่ตั้ง เวลา และถ้อยคำล้วนเปลี่ยนแปลงได้ — และนี่ก็เป็นเหตุผลที่ข้อค้นพบนี้ไม่สามารถแสดงให้เห็นได้เมื่อต้องการ

• ยังไม่ได้รับการยืนยัน: ขนาดของความเสียหาย คลังข้อมูลบันทึกว่ามีความเสียหายจริงเกิดขึ้น และพื้นฐานของข้อสรุปนั้นแคบ ไซมอนกล่าวกับ Dark Reading ว่า Vigilance พบ "เหตุการณ์สองสามครั้ง" ที่ผู้คนร้องเรียนว่าถูกหลอกให้เปิดเผยรายละเอียดการชำระเงินหรือข้อมูลบัตรชำระเงิน โดยหมายเลขโทรศัพท์หลอกลวงที่ให้ไว้ในคำตอบของแชทบอท นักวิจัยยังโทรไปยังหมายเลขปลอมบางหมายเลขด้วยตนเอง และได้คุยกับตัวแทนที่เสนอจะ "เลื่อนเที่ยวบินของเรา" หรือ "ปลดล็อกบัญชีธนาคารของเรา" แล้วขอรายละเอียดบัตร ไม่มีการระบุชื่อเหยื่อ ไม่มีการประเมินมูลค่าความสูญเสียเป็นตัวเลข และไม่มีการอ้างถึงข้อร้องเรียนหรือการดำเนินการบังคับใช้กฎหมายใด ๆ

• ไม่มีข้อโต้แย้ง: บันทึกในคลังข้อมูลระบุรายการนี้ว่าไม่มีการคัดค้าน และข้อนี้ยังคงใช้ได้ — คำถามที่ยังเปิดอยู่ในการรายงานคือการละเว้นในคำเปิดเผยข้อมูล ไม่ใช่ข้อโต้แย้งต่อคำเปิดเผยนั้น

สิ่งที่ทั้งสองแพลตฟอร์มกล่าว

ตามข้อมูลของ NEWSru.co.il ซึ่งอ้างถึง Israel Defense นักวิจัยได้รายงานพฤติกรรมดังกล่าวให้ผู้ให้บริการทั้งสองรายทราบ จุดยืนที่รายงานระบุของ Google คือข้อมูลบิดเบือนประเภทนี้อยู่นอกขอบเขตของโครงการเปิดเผยช่องโหว่ของบริษัท มีรายงานว่า OpenAI ปิดรายงานดังกล่าวโดยให้เหตุผลว่าผลการค้นพบไม่สามารถทำซ้ำได้อย่างเชื่อถือได้ เนื่องจากความแปรปรวนของการตอบสนองของโมเดลภาษา บทสรุปทั้งสองเป็นการเรียบเรียงถ้อยคำใหม่: บทความไม่ได้ระบุชื่อโฆษกของบริษัทใดเลย ไม่มีคำพูดโดยตรง และไม่ได้ระบุวันที่ของการตอบกลับ

ไม่มีคำตอบใดปฏิเสธว่าคำตอบที่ถูกวางยาพิษนั้นมีอยู่จริง หากอ่านเป็นการตัดสินใจคัดกรองมากกว่าการโต้แย้ง ทั้งสองคำตอบอย่างน้อยก็สอดคล้องกันในตัวเอง — โครงการ Bug Bounty ถูกสร้างขึ้นเพื่อให้รางวัลแก่ข้อบกพร่องในโค้ดที่ทำให้เกิดซ้ำได้ และกรณีนี้ทั้งไม่สามารถทำให้เกิดซ้ำได้ตามต้องการ และไม่ใช่ข้อบกพร่องในโค้ด หน้าที่ถูกวางยาพิษนั้นอยู่บนเว็บไซต์ของคนอื่น สิ่งที่การแลกเปลี่ยนนี้แสดงให้เห็นคือช่องว่าง: อันตรายเป็นของจริงมากพอที่จะก่อให้เกิดเหยื่อ และพฤติกรรมนั้นแปรผันมากพอที่จะไม่ผ่านการทดสอบการทำซ้ำ จึงตกอยู่ในพื้นที่ระหว่าง "ช่องโหว่ด้านความปลอดภัย" กับ "ปัญหาด้านเนื้อหา" ซึ่งไม่มีช่องทางเปิดเผยใดรอรองรับอยู่

ณ เวลาของการวิเคราะห์ของ Kronus เมื่อวันที่ 28 กันยายน ทั้ง OpenAI และ Google ยังไม่ได้ยืนยันหรือปฏิเสธตัวเลขบริษัท 374 แห่งต่อสาธารณะ และไม่มีแถลงการณ์จากบริษัทใดในสองบริษัทปรากฏอยู่ในรายงานข่าวใด ๆ ที่ตรวจสอบในที่นี้

มีอะไรเปลี่ยนแปลงไปหลังจากนั้น

ยังไม่มีการประกาศการเปลี่ยนแปลงแพลตฟอร์มใด ๆ เพื่อตอบสนองต่อเรื่องนี้ แคมเปญนี้ถูกระบุว่ากำลังดำเนินอยู่ ณ เวลาที่เผยแพร่เมื่อวันที่ 23 กันยายน และการประเมินของไซมอนเองก็คือการสรุปผลยังไม่เสร็จสิ้น: "เราเชื่อว่าผลกระทบที่แท้จริงของการหลอกลวงเหล่านี้กำลังเกิดขึ้นในขณะนี้ และเรายังไม่สามารถเข้าใจหรือวัดผลกระทบได้อย่างเต็มที่ในตอนนี้"

สิ่งที่มีอยู่แทนคือคำแนะนำ คำแนะนำของ Simon ตามที่รายงานโดย Dark Reading แบ่งออกเป็นสามแนวทาง สำหรับผู้ใช้: ตรวจสอบสิ่งที่ผู้ช่วยบอกคุณแทนที่จะถือว่าเป็นสิ่งที่ถูกต้องไม่มีผิดพลาด สำหรับแบรนด์: ให้ความสำคัญกับข้อร้องเรียนของลูกค้าเกี่ยวกับการหลอกลวงอย่างจริงจัง ติดตามคำตอบของ AI ที่ลูกค้าได้รับจริงและแหล่งที่มาที่คำตอบเหล่านั้นอ้างถึง และจัดลำดับความสำคัญของหมวดหมู่ที่หมายเลขผิดพลาดแล้วสร้างความเสียหายสูง ได้แก่ การสนับสนุน การกู้คืนบัญชี การคืนเงิน การชำระเงิน และการดาวน์โหลดซอฟต์แวร์ สำหรับองค์กรที่ใช้งานเอเจนต์: ติดตามขณะทำงาน ตรวจสอบแหล่งที่มาและเนื้อหาทุกชิ้นที่เข้าสู่บริบทของโมเดล และตรวจสอบรายละเอียดสำคัญ เช่น หมายเลขโทรศัพท์ ลิงก์ แพ็กเกจซอฟต์แวร์ และบรรทัดคำสั่ง ก่อนดำเนินการกับสิ่งเหล่านั้น ขั้นตอนการเปรียบเทียบที่เขาแนะนำตั้งใจให้ทำด้วยมือ: “เปรียบเทียบหมายเลขโทรศัพท์ ที่อยู่อีเมล และ URL ที่ส่งกลับมากับบันทึกของบริษัทที่ตรวจสอบแล้ว จากนั้นสอบสวนรายละเอียดที่ไม่คุ้นเคยและสัญญาณบ่งชี้ที่พบซ้ำในเว็บไซต์ที่ไม่เกี่ยวข้องกัน”

IANS ได้นำคำแนะนำชุดเดียวกันเข้าสู่การทบทวนโดยคณะผู้เชี่ยวชาญของตน โดย Josh More จัดให้แคมเปญนี้อยู่ในสายพัฒนาการเดียวกับสิ่งที่เกิดขึ้นมาก่อน — “เราเห็นเรื่องนี้บนเสิร์ชเอ็นจินมากันหลายปีแล้ว” — และ George Gerchow ย่อกลไกให้เหลือประโยคที่ควรค่าแก่การจดจำ: “ไม่มีใครเจาะเข้าไปในโมเดลได้ พวกเขาเพียงฝังข้อมูลลงในแหล่งที่โมเดลเชื่อถือ แล้วปล่อยให้โมเดลเป็นผู้พูด แชทบอทไม่ได้ถูกแฮก แต่ถูกป้อนข้อมูลเข้าไป” ข้อเสนอแนะจากคณะผู้เชี่ยวชาญของ IANS เพิ่มการติดตามแบรนด์และข้อจำกัดด้านความเป็นอิสระของเอเจนต์เข้าไปในคำแนะนำเรื่องการตรวจสอบยืนยัน และไม่มีข้อใดในนั้นถือเป็นการแก้ไขที่สมบูรณ์

ทำไมบันทึกนี้จึงควรค่าแก่การเก็บรักษา

การวางยาพิษผลการค้นหาเป็นเรื่องเก่าแล้ว สิ่งที่บันทึกนี้อธิบายคือจุดที่ผลการค้นหาเลิกเป็นสิ่งที่ผู้ใช้เห็น ในเวอร์ชันปกติ เหยื่อไปถึงหน้าเว็บ และหน้าเว็บคือหลักฐาน — สะกดผิด ๆ โฮสต์อย่างแปลก ๆ เห็นได้ชัดว่าไม่ใช่ธนาคาร แต่ในกรณีนี้ หน้าเว็บไม่ถูกเรนเดอร์เลย โมเดลอ่านมัน เห็นด้วยกับมัน แล้วเขียนประโยคที่เริ่มต้นด้วยชื่อแบรนด์และจบด้วยหมายเลขของผู้โจมตี อาจมีการอ้างอิงอยู่ก็ได้ แต่ดุลยพินิจที่การอ้างอิงมักใช้รองรับนั้น ถูกตัดสินไปแล้วโดยบางสิ่งที่ไม่รู้จักเหนื่อยหรือระแวงสงสัย

นั่นก็เป็นเหตุผลที่ระดับความน่าเชื่อถือของบันทึกนี้กำลังทำหน้าที่จริง ไม่ใช่เป็นเพียงงานธุรการ กลไกนี้ไม่ได้เป็นที่กังขาอย่างจริงจัง — มันคือวิธีที่ระบบที่เสริมด้วยการค้นคืนถูกสร้างขึ้น และนักวิเคราะห์อุตสาหกรรมที่เขียนเกี่ยวกับเรื่องนี้ก็มองว่ามันน่าเชื่อถือตั้งแต่แรกเห็น ขนาดยังเป็นที่สงสัย และจะยังคงเป็นที่สงสัยต่อไปจนกว่าจะมีใครสักคนเผยแพร่คลังข้อมูลหรือบันทึกคำค้น การวัดของบริษัทเดียว ซึ่งถูกเผยแพร่โดยสื่อที่อ้างอิงโพสต์เดียวกันทั้งหมด เป็นเหตุผลที่ควรบันทึกเหตุการณ์ไว้ และเป็นเหตุผลที่ไม่ควรพูดตัวเลขนั้นซ้ำราวกับว่ามันถูกนับมาแล้วสองครั้ง

การวางกรอบของ archive เองจัดให้กรณีนี้อยู่ในระดับความรุนแรงสูง โดยยืนยันว่ามีส่วนเกี่ยวข้องของ AI มีการบันทึกความเสียหายจริง และไม่มีข้อโต้แย้งใด ๆ แนบมา สิ่งที่รายการนี้อันทึกจริง ๆ คือการถ่ายโอนความไว้วางใจ: ชื่อเสียงของแบรนด์คือวัตถุดิบ ความลื่นไหลของ assistant คือกลไกการนำส่ง และขั้นตอนตรวจสอบที่จะจับสิ่งนี้ได้คือขั้นตอนที่ว่ากันว่าผู้ใช้ 91% ข้ามไป