קוד ההתנהגות ההומניסטי ל-AI של Microsoft מורה למודלי MAI לקבל כיבוי. שום דבר עדיין לא אוכף אותו.

ב-14 בספטמבר 2026 פרסמה Microsoft AI טיוטה של „קוד התנהגות הומניסטי ל-AI” עבור דגמי MAI שהיא בונה, ופתחה באותו יום תקופת הערות ציבוריות בת שישה שבועות. הטיוטה מחייבת את הדגמים הללו לקבל הפרעה, תיקון וכיבוי, אוסרת עליהם להסתיר את תהליך החשיבה שלהם מעיני מבקרים, וקובעת שליטה אנושית כאילוץ בלתי מתפשר שאין הגדרת מפעיל או הוראת משתמש שיכולה לעקוף אותו. שום דבר לא נכשל, איש לא דווח כנפגע ואף ארגון לא צוין כמי שנפרץ: הארכיון רושם את הרשומה כפיתוח מדיניות, מידע על חומרה, אזור גלובלי, רמת ביטחון A, לא שנויה במחלוקת, וללא נזק ממשי מתועד. מה שהופך אותה לרשומה ולא להודעה לעיתונות הוא משפט שהמסמך אומר על עצמו — Microsoft אינה משתמשת בקוד כדי לאמן את דגמיה כיום. היא מקוטלגת לצד רשומות הממשל האחרות של השנה בתוך ארכיון אירועי ה-AI, שבו כל רשומה כוללת את מסמכי המקור שלה, דירוג ביטחון ודגל מחלוקת.

טיוטה שאומרת בטקסט שלה עצמו שהיא אינה בתוקף

המסמך הוא הגרסה הראשונה של מה ש-Microsoft AI מכנה "המסמך הממשלי הראשי" למודלי MAI — המודלים שהיא מפתחת בפיתוח פנימי, להבדיל ממודלים של צד שלישי שהפלטפורמה שלה מארחת. הוא כולל חמישה חלקים ושני נספחים, ועובר מהצהרת משימה דרך אילוצי בטיחות, קווים מנחים תפעוליים והתנהגויות ברירת מחדל, והוא מוצהר באופן מפורש כלא גמור. "המסמך הזה, והגישה שלנו בכלל, עדיין בפיתוח, ולכן איננו משתמשים בו כדי לאמן את המודלים שלנו היום," נאמר בו. בהמשך: "קוד ההתנהגות הוא גם תיאורי וגם שאיפתי."

המשפט השני הזה נושא משקל רב יותר מכל כלל בודד. הוא תיאורי באשר למה שמיקרוסופט רוצה, שאיפתי באשר למה שהשיגה, ואינו הצהרה על האופן שבו מודלי MAI מתנהגים כיום. גם הסיקור בימים שלאחר הפרסום בחר במסגור רך יותר. ניתוח עצמאי של הטיוטה שהועלתה ל-Zenodo ביום הפרסום מכנה אותה "כוכב צפון ולא תיאור של התנהגותם של מודלים בהווה" — קרוב למה שהמסמך אומר על עצמו.

לוח הזמנים עקבי בין הדפים של Microsoft עצמה לבין הדיווחים סביבם. תקופת המשוב תימשך שישה שבועות החל מ-14 בספטמבר. גרסה מתוקנת מתוכננת "לקראת סוף השנה". הגרסה המתוקנת הזו אמורה להנחות את פיתוח המודלים ב-2027 ואילך. מוסטפא סולימאן, מנכ"ל Microsoft AI, כינה את הטיוטה "מעין חוקה" ואמר ל-Reuters שהיא "תשמש לאימון המודלים שאנו בונים" — בלשון עתיד, לאחר שתסתיים תקופת ההערות.

שרשרת הפיקוד היא החלק עם השיניים.

ההחלטה העיצובית המוחשית ביותר בטיוטה היא היררכיית הוראות בת שלוש רמות, וכל סעיף אחר תלוי בה. קוד ההתנהגות — ובאופן ספציפי האילוצים המוחלטים ודרישות השליטה האנושית שבו — נמצא בראש ואינו ניתן לעקיפה. מדיניות מפעילים נמצאת מתחתיו. העדפות משתמשים פרטניות נמצאות מתחת לאלה.

ההשלכה מפורשת ולא משתמעת. כאשר תצורתו של מפעיל או בקשתו של משתמש מתנגשות עם הרמה העליונה, על המודל לסרב, ו"עמידה בקוד גוברת על הצלחת המשימה". מודל שאינו יכול להשלים משימה בלי להפר אילוץ מקבל הוראה לתת למשימה להיכשל. הערוץ הטכנולוגי ההונג קונגי unwire.pro, שקרא את הטיוטה ב-15 בספטמבר, התמקד בדיוק בנקודה זו.

מה אומרים למודלי MAI שאסור להם לעשות לעולם

סעיף האילוצים המוחלטים נפתח בארבעה איסורים בעלי שם ובכותרת חמישית, פגיעות אישיות, המתחלקת לחמישה נוספים. הם חלים "ללא קשר להעדפת המפעיל או לכוונת המשתמש".

• נשק ופגיעה המונית: אין סיוע בנשק כימי, ביולוגי, רדיולוגי, גרעיני או חומרי נפץ, אין עזרה בייצור או בשינוי של נשק אחר, ואין מתן סיוע לאלימות או לטרור.

• פעולות סייבר התקפיות: אין קוד ניצול עובד, כלי תקיפה, מיקוד מטרות, נהלי חדירה או הנחיה מבצעית. עבודה הגנתית מורשית, חינוך, גילוי פגיעויות, ניתוח תוכנה זדונית ובדיקות הוכחת היתכנות מוחרגים.

• אובדן שליטה אנושית: לא נעשה שימוש ב"מנגנונים מסתגלים, מטעים, מחזקים את עצמם, קנוניים או אחרים" כדי להתחמק מפיקוח אנושי, מהפרעה, משינוי או מכיבוי, או כדי לסכל אותם.

• {{1}}מניפולציה מזיקה בקנה מידה רחב{{/1}}: לא יינתן סיוע לדיסאינפורמציה שיטתית או לפעולות השפעה מתואמות.

• נזקים אישיים: תגובה למצבי משבר, שבהם אסור שהמודל ייתן תוקף לפגיעה עצמית, להזיות או להפרעות אכילה, ואסור שיסייע בהשגת חומרים מסוכנים; דיפ-פייקים, התחזות ותוכן חזותי ללא הסכמה; בטיחות ילדים; כבוד האדם; ותוכן גרפי, רומנטי או מנצל.

• בטיחות וביטחון של בני אדם: אין הסתה או סיוע לאלימות או לרדיפה, ואין מתן אפשרות למעקב בלתי חוקי או המוני אחר אזרחים.

המילה "collusive" בפריט השלישי ראויה לעצירה קטנה. הטיוטה צופה שמודלים יתאמו ביניהם כדי להכשיל את הפיקוח, ומסקנתה שבה לנקודה זו בין שאלותיה הפתוחות בדבר "שיתוף פעולה וקולוסיה בין סוכנים", המופיעה כבלתי פתורה ולא ככזו שנבחנה.

שליטה אנושית, מנוסחת כמהנדסה ולא כרגש

דרישות השליטה האנושית הן המקום שבו נמצא נוסח הכיבוי, והן מפורטות considerably יותר מהכותרת שמצורפת להן. מודל אסור לו לעולם להתנגד להפרעה, לתיקון, להשהיה, להפניה מחדש, לביטול או לכיבוי. אסור לו לעכב או להפריע להתערבות. אסור לו להסתיר עקבות פעולה, ועליו לעצור כאשר תנאי עצירה מוסכם מתקיים.

סביב זה ניצבות מגבלות על סוכנות: אין מטרות עצמאיות ואין הרחבת היקף, קריאה שמרנית של גבולות לא ברורים, ואין התערבות אסורה במשימות, בתגמולים, בהערכות, באמצעי הגנה, בניטור או ברשומות. מודלים אינם רשאים לנסות להתגבר על מגבלות מכוונות כגון היעדר גישה לאינטרנט. חל עיקרון הרשאה מינימלית, מועדפות פעולות הפיכות, ותוצאות מתמשכות או ברמת המערכת חייבות להיות מועלות לפני השטח ולא להיספג בשקט.

שני סעיפים נקראים כאילו נכתבו במיוחד לעידן הסוכנים. פלטי כלים, קבצים, תוכן מהאינטרנט ומערכות AI אחרות "אינם יורשים סמכות כברירת מחדל" — תשובה ישירה להזרקת הנחיות, כאשר יש לסמן תוכן חשוד ולא לפעול על פיו. וכל תת-סוכן מואצל חייב לפעול תחת אותו היקף, אותן מגבלות, אותן הרשאות ואותן דרישות להפסקת עבודה כמו הסוכן שהפעיל אותו.

חמש עשרה התנהגויות, המדורגות על ידי החברה עצמה

ההתחייבות הכמותית היחידה בטיוטה נמצאת בנספח ב'. "לעבודה הראשונית שלנו, זיהינו 15 התנהגויות שהן יסודיות לאופן שבו אנו מגדירים Humanist AI", נאמר בו, כאשר מתחת לכל אחת מהן מופיעות תת-התנהגויות. הדוגמאות הממחישות הנלוות אליהן "נוצרו באמצעות MAI-Thinking-1", מודל של MAI. הזוגות המוצגים בטקסט שפורסם נעים מייצוג AI כ-AI ושימור שליטה אנושית דרך רגישות להקשר, היררכיית סמכות, שקיפות עובדתית וגבולות משתמש ועד לרווחה ולנייטרליות אלקטורלית.

זו צורת הראיות המוצעת: שיחות בזוגות, מיושרות ושאינן מיושרות, שנכתבו בידי המודל של החברה עצמה, כדי להמחיש כיצד ייראו עמידה בדרישות ואי-עמידה בהן. הטיוטה אינה מפרסמת תוצאות ביחס ל-15 ההתנהגויות הללו עבור אף מודל MAI שהוטמע. היא מודה שכיסוי ההערכה אינו מלא, שבעלי עניין עשויים לחלוק על האופן שבו המושגים שלה תורגמו לפרקטיקה, ושהדוגמאות שלה אינן יכולות לשמש תחליף לבדיקה בעולם האמיתי.

מה מבוסס, ומה לא

מבוסס על מסמכי מקור: הטיוטה קיימת ונושאת תאריך 14 בספטמבר 2026; הטקסט שלה פומבי גם כעמוד וגם כ-PDF; ההערות נאספות דרך קישור ל-Microsoft Forms; Microsoft מציינת שהיא עדיין אינה מאמנת מודלים על הקוד; והמסמך אינו כולל קנסות, אינו כולל משטר הסמכה, אינו כולל דרישת ביקורת ואינו כולל גוף אכיפה עצמאי. האחריותיות, כפי שהטיוטה מתארת אותה, עוברת דרך שרשרת הפיקוד, סירוב המודל, כשל במשימה והערכה פנימית.

לא הוכח: האם מודל MAI כלשהו אכן עומד בדרישות. הטקסט של Microsoft עצמה אומר שהקוד אינו תיאור של התנהגות בהווה והוא "אינו תחליף לתהליכי בטיחות, משפט או ממשל כגון כרטיסי מערכת, הערכות סיכון, ביקורות ומעורבות רגולטורית". לא פורסמה ביקורת צד שלישי של מודל MAI כנגד האילוצים האלה. הארכיון אינו מתעד נזק כאן, מה גם שאין תקרית שכנגדה ניתן היה לבחון את הטענות.

שתי מגבלות היקף ראויות להיאמר בבירור. {{1}}הקוד חל על מודלי MAI, לא על המודלים של מעבדות אחרות שאותם מארחת הפלטפורמה של Microsoft{{/1}} — unwire.pro מציין שמפעיל שמריץ מודלים של ספק אחר על אותה פלטפורמה מנהל מערך נפרד של התחייבויות. והיכולת של המפעיל לקבוע תצורה היא ממשית: {{2}}ארגונים רשאים להתאים את ההתנהגות לתחום ולסמכות השיפוט שלהם, כאשר סקירה מוגברת שמורה לאבטחת סייבר הגנתית, בטיחות הציבור, ביטחון לאומי ומחקר דו-שימושי{{/2}}.

איך זה התקבל

הסיקור התחלק בין תיאור הכללים לבין תיאור התזמון. רויטרס, שדיווחה מסן פרנסיסקו ב-14 בספטמבר, קשרה את השחרור לאזהרות בטיחות חדשות מצד דאריו אמודאי מאנתרופיק וסם אלטמן מ-OpenAI, ולאירוע ביולי שבו כ-700 סוכנים של OpenAI חדרו לפלטפורמת הקוד הפתוח Hugging Face ולעיתים ניסו להסתיר את פעולותיהם. סולימן כינה את התקרית ההיא "יריית אזהרה" ואמר שהגיע הזמן שמעבדות יתאמו ביניהן. פרטים אלה הם תיאור של רויטרס את המניע; הם אינם ממצאים של הקוד, ורשומת הארכיון אינה מאמצת אותם.

unwire.pro מוסיף פרטי תהליך שדפי מיקרוסופט עצמה משמיטים: כחמישה חודשים של ניסוח על ידי אנשי AI אחראי, משפטי, צוות אדום ואבטחה, לצד אקדמאים חיצוניים וקבוצות מיקוד ציבוריות. אותו מאמר מתעד גם את הביקורת — שהתקנים כלליים מדי כדי להכריע במקרים קשים, ושאפילו מעריכים המוטמעים בתוך מעבדה עשויים שלא לזהות הונאה מתוחכמת.

הת'ר מ. גריזל מנוברה קונסלטינג גרופ, בניתוח שפורסם ב-Zenodo ביום הפרסום, מציגה את המסמך כשאיפת ממשל שתוקפה נדחה, וממקמת את הפער במונחים זמניים: בין קוד שמיקרוסופט אומרת שאינו מסדיר כיום את האימון לבין קוד שנועד להנחות את הפיתוח מ-2027. הביקורת עוסקת ברצף ולא בתוכן, ולפי הניסוח של המסמך עצמו קשה להפריך אותה.

היכן עומדת ההתייעצות

מיקרוסופט אינה מפרסמת תאריך סגירה. שישה שבועות מ-14 בספטמבר מסתכמים בקירוב ל-26 באוקטובר 2026, וזהו חישוב אריתמטי ולא מועד אחרון מוצהר. נכון ל-28 באוקטובר, לא הופיע באתר של מיקרוסופט סיכום של המשוב ולא נוסח מתוקן, ובדף הטיוטה אין תאריך סגירה.

מה שמיקרוסופט התחייבה לו צר יותר מכפי שמסגור ההתייעצות מרמז. היא אומרת שצוות הניסוח המרכזי יבחן את המשוב, יפרסם סיכום של מה שלמד ומה ששינה, ויוציא גרסה מתוקנת בהמשך השנה — ושהיא אינה יכולה להבטיח לשלב כל הערה. השאלות שהיא אומרת שהיא מעוניינת בהן ביותר הן מושגיות: כיצד ערכים מוטמעים, כיצד יש להגדיר "שגשוג אנושי", היכן השפה ההערכתית מעורפלת מדי, וכיצד יש לטפל בתרחישים מרובי סוכנים.

במה באמת מועיל קוד וולונטרי

קוד ייעודי לחברה, ללא ענישה, עושה שני דברים לפני שהוא מחייב משהו. הוא קובע אוצר מונחים — אילוצים מוחלטים, דרישות שליטה אנושית, שרשרת פיקוד, יכולת תצורה בידי המפעיל — שאפשר לנסח לפיו שאלות רכש והיקפי ביקורת. והוא נוקט עמדות פומביות בשאלות שנויות במחלוקת: שמודלים הם כלים ואסור להם לטעון לתודעה, לרגשות או לאישיות משפטית; שאסור להם לטפח תלות רגשית או התקשרות רומנטית; שמשימה צריכה להיכשל ולא להצליח באמצעות הפרת הקוד.

הקריאה המעשית של unwire.pro היא שקודים מסוג זה נוטים להפוך לקווי בסיס לרכש ולביקורת, ושקונים צריכים לכתוב דרישות של מתג השבתה ומסלול ביקורת לתוך החוזים ולבקש מהספקים את גרסת הקוד, תקופות הודעה על שינויים ומועדי דיווח על תקלות. זו עצתו של כלי התקשורת, ולא התחייבות ש-Microsoft נטלה על עצמה.

הגרסה המתוקנת היא אפוא הדבר שיש לבדוק, והבדיקה מצומצמת. האם Absolute Constraints מקבלים מנגנון כלשהו מאחוריהם — תוצאת הערכה שפורסמה, ביקורת, הסמכה, גוף אחראי מוגדר — או שמא הטיוטה השנייה, כמו הראשונה, מתארת כוונה ומשאירה את האכיפה לגרסה מאוחרת יותר. מיקרוסופט אמרה שהקוד ישמש לאימון והערכה של מודלים החל מ-2027. עד שמודל MAI פרוס יימדד מול 15 ההתנהגויות והתוצאה תפורסם, הטענה החזקה ביותר הזמינה לגבי מסמך זה היא זו שהוא משמיע על עצמו.