AI Safety Incidents

טיוטת הצעת חוק בסנאט תהפוך את בטיחות הבינה המלאכותית החזיתית לחובה חוקית — ותאפשר לוושינגטון לחסום שחרור

מחבר

Alistair Wren

תאריך פרסום

Oct 28, 2026

מודלים אחרונים · 20צפו בכל המודלים →

בנצ'מרקים: Artificial Analysis · מתעדכן יומית

חזרה לכל הפוסטים

ב-11 בספטמבר 2026 דיווח Reuters כי מנהלי משא ומתן בסנאט ניסחו הצעת חוק שתטיל חובת זהירות משפטית על מפתחי המודלים בעלי היכולת הרבה ביותר בתחום ה-AI, תעניק לממשל הפדרלי סמכות לחסום שחרור של מודל שהוא רואה כלא בטוח, ותמנע ממדינות מלאכוף את חוקיהן שלהן בנוגע לאותם סיכונים קטסטרופליים. הדיווח של Courtney Rozen נשען על שני עוזרי סנאט, אדם המכיר את הדיונים ולוביסט; עותקים מסונדקים פרסמו אותו ב-12 בספטמבר, התאריך שבו הארכיון משתמש. לא פורסם נוסח של הצעת חוק, איש מחוץ לשיחות לא ראה נוסח כזה, לא היה מספר הצעת חוק, ולא נקבעה הצבעה. שום מודל לא הוסר ולא הוטל קנס על שום חברה — מה שהטיוטה תשנה הוא מי מחליט אם מערכת חזיתית תשוחרר. הארכיון מדרג את הרשומה הזו כ-B — מתועדת, אך ממקור יחיד או משני — מפני שכל תיאור של ההצעה מתחקה אחר אותו מכלול דיווחים שמקורו בעוזרים. הרשומה המלאה, עם דירוגי החומרה והביטחון שלה, נמצאת בthe Orca AI Incident Archive, לצד רשומות הממשל האמריקאי הסמוכות מאותם שבועות.

מה תעשה הטיוטה, לפי גרסת העוזרים

ארבע הוראות חוזרות לאורך הדיווחים. כל אחת מהן תוארה לרויטרס בידי אנשים המעורים בשיחות, ולא צוטטה מתוך טקסט.

• חובת זהירות. לפי רויטרס, מפתחים יהיו חייבים לעצב את מוצריהם "מתוך מטרה למנוע סיכונים קטסטרופליים". הרעיון שאול מדיני הנזיקין, שלפיהם גורם נושא בחובה לנקוט אמצעי זהירות סבירים מפני נזק צפוי מראש. Tech Times, בכתבה מ-12 בספטמבר, תיאר את התוצאה המעשית כחובה המוטמעת בשלב התכנון ולא כזו שנאכפת רק באמצעות ביקורות ודוחות תקרית, כך שהאחריות תחול על החלטת התכנון עצמה ולא רק על אי-הגשת דוח. בסופו של דבר, בתי משפט, ולא רק רגולטורים, יקבעו מה נחשב סביר.

• סמכות פדרלית לחסום שחרור. הממשלה תוכל לחסום שחרור של "מודלים מסוימים שנמצאו לא בטוחים", וחברה תוכל לערער על החלטה זו בבית משפט פדרלי. כמה סמכות תהיה בידי הרשות המבצעת היה, ועודנו, נושא לדיון.

• בדיקה עצמאית. ההצעה תכלול מומחי ממשל, כולל המעבדות הלאומיות, בהערכה אם מודלי חזית עלולים לאפשר מתקפות סייבר מתוחכמות או לסייע בפיתוח נשק ביולוגי או גרעיני. קלובוצ'ר אמרה ב-X שכל הסכם חייב לגרום למפתחים "לעבוד עם מומחי ממשל כדי לאמת ולבדוק מודלים כדי לוודא שהבינה המלאכותית בטוחה."

• עקיפת חוקי המדינה. חלק מהצעת החוק ימנע ממדינות לאכוף את חוקיהן בנוגע לסיכוני מודלים מסוימים. עוזר בסנאט ציין את התרחיש של שחקן זדוני המשתמש במערכת בינה מלאכותית כדי לסייע בתכנון נשק גרעיני או ביולוגי.

שלושת תחומי הסיכון הנקובים בדיווח הם סיוע בכל הנוגע לנשק ביולוגי או גרעיני, היכולת לבצע מתקפות סייבר מתוחכמות נגד תשתיות קריטיות, ושימוש לרעה בידי שחקנים זדוניים ונחושים. הצעת החוק תחול רק על "מודלים עם היכולות המתקדמות ביותר". רויטרס זיהתה את Google של Alphabet, את Anthropic ואת OpenAI כחברות אמריקאיות המחזיקות במודלים מהסוג הזה. זהו זיהוי של סוכנות הידיעות לגבי מי ייכלל בתחולה, ולא רשימה של מפתחים שנכללים בתחולה אשר כתובה באיזה טקסט — מפני שאין טקסט פומבי.

A self-authored card headed 'Four provisions, no published text', kicker 'AI Safety Incidents · Policy record · 12 September 2026', subtitle 'What Senate aides described to Reuters, and what no one outside the talks has seen'. Five labelled rows: Duty of care — developers must design products with the goal of preventing catastrophic risks, borrowed from tort law, so liability reaches the design decision itself; Blocking power — the government could block release of certain models judged unsafe, with a company able to challenge the decision in federal court, and the extent of that authority still under discussion; Testing — government experts, including the national laboratories, assess whether frontier models could enable sophisticated cyberattacks or assist biological or nuclear weapons work; Preemption — states barred from enforcing their own laws on certain model risks, with one aide citing a bad actor using a model to help design nuclear or biological weapons; Scope — models with the most advanced capabilities, with Reuters identifying Alphabet's Google, Anthropic and OpenAI as holding them. A footer reads 'Status: draft. No bill text, no bill number, no scheduled markup, no vote. Thune's spokesperson declined to comment. Sources: Reuters, 11 September 2026; Tech Times, 12 September 2026; The Next Web.'

מי נמצא בחדר — ומי נמצא בדלת

רויטרס ציינה שלושה מנהלי משא ומתן: מנהיג הרוב ג'ון תון מדרום דקוטה, יו"ר ועדת המסחר טד קרוז מטקסס, ואיימי קלובוצ'ר ממינסוטה, הדמוקרטית הבכירה המעורבת. דובר של תון סירב להגיב. קרוז כתב ב-X שהוא פועל עם קלובוצ'ר ותון "כדי להתמודד עם סיכונים קטסטרופליים הכרוכים באיומים ביולוגיים או גרעיניים". קלובוצ'ר הציגה את המאמץ כסובב סביב אימות ובדיקות ממשלתיים.

השם הרביעי דורש זהירות. רשומת הארכיון מפרטת את מריה קנטוול, הדמוקרטית הבכירה בוועדת המסחר, כחברה בקבוצה הדו-מפלגתית שמנסחת את הצעת החוק. הדיווח ממקם אותה אחרת: מחוץ לשלישיית המשא ומתן, והמכשול המרכזי בתוכה. פרשנותו של The Next Web לדיווחי Reuters ו-Nextgov היא שקנטוול "חוסמת בכל הנוגע למסגרת הבדיקות", משום שהיא רוצה שמודלים יישלחו לסוכנויות פדרליות ולמעבדות הלאומיות ולא ייבדקו על ידי החברות שבנו אותם. משרדה הציע נוסח חלופי לזה של קלובוצ'ר, שאותו תיאר עוזר כנענה בחיוב, ולפי גרסה זו אישורו של קרוז הוא הגורם המכריע. המשך הדיווח של Reuters מ-14 בספטמבר אומר רק שקנטוול "הביעה גם היא את דעתה על החקיקה, לפי מקורות". השתתפותה מבוססת; השאלה אם היא מנסחת אינה.

אותו דיווח מציין את שמות הגורמים החיצוניים. מקור שני אמר ל-Nextgov כי קנטוול, Anthropic וקבוצות בטיחות בינה מלאכותית שאינן בשמן "מסרבות לשתף פעולה". Anthropic לא השיבה לבקשת התגובה של Nextgov.

A self-authored card headed 'The negotiators and the red line', kicker 'AI Safety Incidents · Policy record · 12 September 2026', subtitle 'Positions as reported in September 2026, from aides, spokespeople and the senators' own posts'. Four rows name John Thune, majority leader of South Dakota, whose spokesperson declined to comment and who on 14 September said Congress can put guardrails around more consequential threats; Ted Cruz, Commerce Committee chairman of Texas, working with Klobuchar and Thune on catastrophic risks involving biological or nuclear threats and by 17 September reported to be working against mandatory federal pre-deployment testing; Amy Klobuchar, senior Democrat in the talks from Minnesota, saying any agreement has to make developers work with government experts and that the US cannot allow the release of dangerous models; and Maria Cantwell, ranking Democrat on Commerce from Washington, wanting the most powerful models tested by national laboratory scientists, with her office offering alternative language to Klobuchar's. A footer reads 'The archive record lists Cantwell among the bipartisan drafters. The reporting places three senators in the negotiating trio and describes Cantwell as the ranking member pressing an alternative. Sources: Reuters, 11 and 14 September 2026; Nextgov; The Next Web; Houston Chronicle, 17 September 2026.'

המנגנון: מי בעצם מריץ את הבדיקות

כאן הכותרת של הטיוטה והתשתית שמתחתיה נפרדות זו מזו, וזה החלק שרוב הסיכומים משמיטים. לפי הדיווח של רויטרס כפי שסוכם ב-The Next Web, "חברות יבצעו בעצמן את מבחני הבטיחות, ואז יציגו את התוצאות למזכיר המסחר לאישור פריסה." עוזר בוועדה מטעם הדמוקרטים אפיין את ההסדר שנוצר כ"מצב מסוג תקן וולונטרי בעיקרו".

יומיים לאחר תאריך הרשומה, דיווח Reuters כי המשא ומתנים שקלו גם אם שר המסחר יוכל "לדרוש הוכחה שמפתחי AI נוקטים בצעדים סבירים כדי למנוע נזק", ואם השר יוכל "לפרוס מבקרים ממשלתיים כדי לבדוק בעצמם את מוצרי החברות". באותו דיווח הודה Reuters כי "לא ניתן היה לקבוע מיד מה ייחשב ל'סביר'". הפער הזה הוא כל הטיעון. חובת זהירות חזקה רק כמידת הסטנדרט שבית משפט או רגולטור מחיל עליה, והסטנדרט עדיין היה בכתיבה.

התיאורים של השער עצמו השתנו מאז. סקירה מ-14 בספטמבר באתר eworld.live, שהסתמכה על רויטרס ו-Nextgov, תיארה את השאלה הפתוחה כשאלה אם מחלקת המסחר מקבלת "חסימה ממשית לפני פריסה לעומת אישור מרוכך יותר", וכינתה זאת שנויה במחלוקת. שני התיאורים יכולים להיות נכונים לגבי אותה טיוטה בשלבים שונים של משא ומתן; אף אחד מהם אינו ניתן לאימות מול טקסט שאינו קיים.

הקו האדום של קנטוול, והתשובה של קרוז

עמדתה הפומבית של קנטוול, כפי שדיווחה רויטרס, היא שחקיקה משמעותית תעביר את המודלים החזקים ביותר למדענים במעבדות הלאומיות, אשר "יעריכו אם הם עלולים לאפשר מתקפות סייבר מתוחכמות או לסייע בפיתוח נשק ביולוגי או גרעיני". לפי תיאורה, הבודקים הם פדרליים ולא תאגידיים — ונקודת התרגיל היא שתיק הבטיחות של החברה עצמה אינו מהווה ראיה.

תשובתו של קרוז הגיעה חמישה ימים לאחר המועד הקובע, והיא מחדדת את קו השבר. The Houston Chronicle דיווח ב-17 בספטמבר, בכתבה מאת ג'יימס אוסבורן, שקרוז פעל לחסום הצעה דמוקרטית לבדיקות פדרליות מחייבות לפני פריסה, תוך אזהרה שהיא "תפגע בחברות אמריקניות ותיתן יתרון למתחרים סינים". החלופה שלו הייתה דרישה שחברות "ינקטו צעדים כדי למנוע מהמודלים שלהן לפתח 'יכולות איום מתקדמות'" ו"ידווחו לממשלה הפדרלית על כל פרצת אבטחה פעילה או קרובה". הוא גם טען שאחריות שוקית כבר עושה את העבודה: "אם חברה כלשהי מוכרת מוצר שגורם לנזק עצום, יתבעו אותה עד כליה."

הדיווח הזה מאוחר יותר מן התיעוד ומוצג כאן כפי שהוא — התפתחות מאוחרת שממקמת את טיוטת ספטמבר ולא משנה אותה. ההצעה שדווחה ב-11 בספטמבר העניקה לממשלה כוח חסימה ודיברה על בדיקה בידי מומחי ממשלה. יושב ראש הוועדה שהייתה אמורה להכין את הנוסח לדיון כבר טען, בתוך שבוע, נגד בדיקה פדרלית מחייבת לפני פריסה.

דריסה, ואי-האפשרות לנקוב בשמות החוקים

סעיף הקדימות מעורר את ההתנגדות הברורה ביותר ואת הבהירות המועטה ביותר. Reuters דיווחה שחלק מהצעת החוק ימנע ממדינות מלאכוף את החוקים שלהן בנושא סיכוני מודלים מסוימים. אילו חוקים הם אלה — כאן הסיקור מתפצל: The Next Web מציין את SB 53 של קליפורניה ואת חוק RAISE של ניו יורק, בעוד Tech Times מדווח שקליפורניה חתמה על SB 813 ו-AB 1405 ב-9 בספטמבר 2026, ומתאר את חוק ביקורת החובה של קליפורניה ככזה שמכסה בינה מלאכותית המשמשת בגיוס עובדים, בביטוח ובהחלטות מהותיות אחרות. מאמר זה לא בחן את הנוסחים שנחקקו של חוקי אף אחת מהמדינות, ולכן אילו חוקים הסעיף יחליף נותר לא מוכרע במקורות, ולא מוכרע על ידם.

מה שברור הוא ההיסטוריה שמאחורי המאבק. Tech Times מתארך מורטוריום גורפ קודם על רגולציה של בינה מלאכותית ברמת המדינה ל-2025 ומתעד את תבוסתו בסנאט ברוב של 99 מול 1 לאחר שקרוז דחף לכך; AIBARS מתאר מאמץ דומה ב-2026 שהוסר בהצבעה מוחצת. שני התיאורים אינם מתיישבים לגבי השנה, ולא נבדק רישום הצבעה שמית עבור כתבה זו. Tech Times מוסיף כי השאלה הפתוחה היא האם עקיפה צרה יותר המוגבלת לחובות הנוגעות לסיכון קטסטרופלי תוכל לעמוד בהתנגדויות של מחוקקים משתי המפלגות, הרואים בכללי המדינה רשת ביטחון להגנת הצרכן. AIBARS, מצדו, מדווח כי מושלים רפובליקניים במספר מדינות התנגדו לעקיפה רחבה, וכי ארגוני חירויות אזרח וצרכנים מזהירים שתקן פדרלי עלול להפוך לתקרה ולא לרצפה.

מבוסס, מיוחס, ולא מבוסס

• מאומתת בכלי תקשורת עצמאיים. כי סנאטורים מנהלים משא ומתן על הצעת חוק חובת זהירות עם סמכות חסימה פדרלית וסעיף קדימות מדווחים רויטרס ב-11 וב-14 בספטמבר, Nextgov על המחלוקת בנושא הבדיקות ו-Semafor; Houston Chronicle מדווח על הצד של קרוז במאבק ולא על תוכן הצעת החוק. אף כלי תקשורת לא פרסם את הנוסח, משום שאין נוסח פומבי.

• מוכח: הפילוג בתוך המשא ומתן אמיתי ודווח פעמיים מכיוונים שונים. Nextgov דיווח על הנוסח החלופי של קנטוול ועל העדפתה לבדיקות פדרליות; Houston Chronicle דיווח שקרוז פועל נגד בדיקות פדרליות מחייבות לפני פריסה. אלה שני משרדים מזוהים בשמם, שני כתבים, ואותו קו שבר.

• מיוחס בלבד. כל פרט תפעולי — הטריגר לכניסה לתחולה, מה הופך מודל ל"לא בטוח", אם משרד המסחר יכול לחסום שחרור או רק לדרוש הצהרה, אילו מפתחים נמצאים בהיקף — מגיע מעוזרי סנאט אלמונים, מאדם המכיר את השיחות ומלוביסט. לשכתו של תון סירבה להגיב. קרוז וקלובוצ'ר התייחסו למאמץ רק במונחים כלליים ב-X. Tech Times גם מצטט עוזר ועדה דמוקרטי הקורא לטיוטה "בעיקרה מצב מסוג תקן התנדבותי", מה שיושב באופן לא נוח לצד המסגור של "חובת זהירות מחייבת" ואינו סתירה אלא יותר תיאור של אותו מסמך מנקודת מושב אחרת.

• לא הוכח: שהצעת החוק תוגש בכלל. אין מספר הצעת חוק, אין מסמך ועדה, אין דיון עריכה מתוזמן ואין הצבעה נכון לדיווח שנבדק. הערכתה של רויטרס עצמה הייתה שהצעד "עומד בפני סיכויים נמוכים להפוך לחוק".

• לא נקבע: האם קנטוול היא מנסחת. רשומת הארכיון מכלילה אותה בקבוצה; הדיווח ממקם אותה מחוץ לשלושה המרכזיים ובמחלוקת איתם בנושא הבדיקות. הפער קטן וראוי לציון, משום ששמה משנה את צורת הקואליציה של הצעת החוק.

A self-authored card headed 'Established, attributed, not established', kicker 'AI Safety Incidents · Policy record · 12 September 2026', subtitle 'The same draft, sorted by how well the public record supports each claim'. The 'Established' column lists four items: a duty-of-care bill with a federal blocking power and state preemption reported by Reuters on 11 and 14 September, by Nextgov and by Semafor; the testing dispute reported from two directions, Nextgov on Cantwell's alternative language and the Houston Chronicle on Cruz against mandatory federal pre-deployment testing; Thune's spokesperson declining to comment while Cruz and Klobuchar addressed the effort only in general terms in public posts; and no bill text public, with no outlet quoting from one. The 'Attributed' column lists four items: the trigger for coverage and what would make a model unsafe, from unnamed aides, a person familiar with the talks and a lobbyist; whether Commerce could block a release or only demand an attestation; which developers are in scope, with Reuters naming Alphabet's Google, Anthropic and OpenAI; and a Democratic committee aide's description of the draft as primarily a voluntary standard type situation. The 'Not established' column lists three items: that the bill will be introduced at all, with no number, committee print, markup or vote; whether Cantwell is a drafter as the archive record has it or the ranking Democrat blocking over testing; and which state statutes the preemption clause would displace, with accounts naming different California bills. A footer reads 'Sources: Reuters, 11 and 14 September 2026; Nextgov; The Next Web; Houston Chronicle, 17 September 2026; Tech Times, 12 September 2026. The archive grades this record B — documented, but from a single or secondary source.'

היומן, אולם בית המשפט, ומה שיקרה بعد מכן

לוח הזמנים הוא היריב המהימן ביותר של הטיוטה. רויטרס דיווחה שהבית אמור היה להתכנס לשבוע אחד והסנאט לכשלושה שבועות לפני בחירות האמצע ב-3 בנובמבר, שלאחריהן ייכנס הקונגרס החדש בינואר 2027. קרוז אמר שהוועדה עשויה לקיים ישיבת ניסוח; ישיבת ניסוח קודמת נדחתה למועד שלפני פגרת אוגוסט כאשר הוא העדיף חקיקה בנושא בטיחות ילדים, כך דיווח Nextgov. Tech Times ציטט מקורות של Semafor שכינו את ההצעה "האפשרות הישימה היחידה שיש לה סיכוי לפני 2027", משפט שנשמע באותה מידה כאזהרת מועד אחרון וכהבעת תמיכה.

גם הבית הלבן אינו בעל ברית אמין. ב-14 בספטמבר דיווחה רויטרס כי הנשיא דונלד טראמפ טען שהסמכויות הקיימות כבר מספקות כלים הולמים כדי להסדיר ולהעמיד לדין חברות טכנולוגיה — עמדה שמאותתת על רתיעה מלחתום על הצעת חוק שתקבע כללים חדשים ל-AI. תון, מצדו, הציג את העניין במונחים תחרותיים ואמר שיש "דרך שבה הקונגרס יכול להציב מעקות בטיחות סביב סוגים אלה של איומים בעלי השלכות כבדות יותר", תוך שהוא מתעקש שפעולה כזו לא תפגע במעמדה של ארה״ב במירוץ ה-AI.

הסיכון המשפטי הוא האילוץ האחר, והוא מבני ולא פוליטי. Tech Times מציין שחסימה ממשלתית לפני שחרור היא סוג של ריסון מוקדם — קטגוריה שבתי משפט בוחנים מקרוב — ושהשאלה אם שחרור מודל בינה מלאכותית נחשב לדיבור מוגן נותרה בלתי מוכרעת; חוקרים משפטיים אמרו לכלי התקשורת שעתירה לפי התיקון הראשון תהיה האתגר העיקרי לכל חוק כזה. אותו מאמר מאפיין את הצעת החוק כחוק הראשון שנבנה במיוחד לחסימת בינה מלאכותית עם מסלול ערעור בבית משפט, ומנגיד אותה לשימושים קודמים בסמכות קיימת — חוק הרפורמה בפיקוח על יצוא שהופעל ביוני 2026 כדי להשעות גישה עולמית ל-Mythos 5 ול-Fable 5 של Anthropic לכשלושה שבועות, וצו נשיאותי מ-2 ביוני 2026 שיצר גישה ממשלתית מרצון לפני שחרור בלי דרישת אישור מוקדם. האפיונים האלה הם של Tech Times, והפעולות הביטחוניות-לאומיות שבבסיס לא נבחנו כאן באופן עצמאי.

מה שווה השיא

הערך של רשומה זו אינו בכך שקיימת הצעת חוק. הוא המרחק בין המשפט שכולם חזרו עליו — חובת זהירות מחייבת, ממשלה שיכולה לחסום שחרור — לבין המנגנון שמתחתיו, שבו החברות מריצות בעצמן את מבחני הבטיחות, התוצאות מגיעות למזכיר קבינט, והעוזר הקרוב ביותר לניסוח מכנה את התוצאה "בעיקרו מצב מסוג תקן וולונטרי". שני התיאורים עוסקים באותו מסמך. האחת היא הגרסה ששורדת כותרת; האחרת היא הגרסה שתשרוד את שלב הניסוח בוועדה.

שלושה דברים היו מכריעים את העניין, ואף אחד מהם לא התרחש בדיווח שנסקר עבור רשומה זו: מספר הצעת חוק ונוסח שפורסם, ישיבת ניסוח בוועדת המסחר, והחלטה אם התפקיד הפדרלי הוא וטו או אישור. עד אז יש לקרוא את ארבעת הסעיפים כעמדת משא ומתן שתוארה בידי אנשים שנכחו בחדר, ולא כחוק בהמתנה — וציון B של הארכיון הוא התווית הנכונה לכך, משום שהעדים היחידים הם אנונימיים והמסמך עצמו לא נראה.

טיוטת הצעת חוק בסנאט תהפוך את בטיחות הבינה המלאכותית החזיתית לחובה חוקית — ותאפשר לוושינגטון לחסום שחרור

מה תעשה הטיוטה, לפי גרסת העוזרים

מי נמצא בחדר — ומי נמצא בדלת

המנגנון: מי בעצם מריץ את הבדיקות

הקו האדום של קנטוול, והתשובה של קרוז

דריסה, ואי-האפשרות לנקוב בשמות החוקים

מבוסס, מיוחס, ולא מבוסס

היומן, אולם בית המשפט, ומה שיקרה بعد מכן

מה שווה השיא

מוצר

משאבים

לספקים

הצטרפו לקהילה שלנו

מהבלוג

ספקי מודלים