הרשאות לסוכן AI: מה מותר לו לעשות לבד ומה חייב אישור

כדי להחליט מה סוכן AI רשאי לבצע, מפרקים את התהליך לפעולות ומגדירים לכל פעולה את המידע הדרוש, השינוי המותר והאדם שמוסמך לאשר אותו. את ההגבלות צריך לאכוף בכלי שמבצע את הפעולה ובמערכת היעד. הנחיה כתובה לסוכן לבקש אישור אינה מספיקה כשאותו סוכן מחזיק גם גישה רחבה שמאפשרת לו לדלג על האישור.

אפשר להתחיל בתהליך אחד, למשל טיפול בפנייה שמגיעה לתיבת מכירות משותפת. הסוכן קורא את הפנייה, מציע סיכום ומכין תשובה. לפני שמאפשרים לו לשנות רשומת לקוח או לשלוח הודעה, מגדירים בנפרד את ההרשאה לכל אחת מהפעולות האלה.

מטריצת הרשאות לדוגמה

הטבלה הבאה היא הצעה לאפיון תהליך מכירות, עם נתוני בדיקה. היא אינה תיאור של מערכת לקוח או הבטחה ליכולת שקיימת בכל פלטפורמה. צריך לבדוק אילו מגבלות מערכת הדואר וה־CRM מאפשרות לאכוף בפועל.

פעולה	המידע שהסוכן צריך	גבול הביצוע המוצע	מי מטפל בחריג
סיכום פנייה	תוכן הפנייה ושדות רלוונטיים ברשומת הלקוח	קריאה בלבד בתיבה ובתיק שהוגדרו	בעל התהליך כשחסר מידע
הכנת תשובה	הפנייה ומידע מאושר על השירות	שמירת טיוטה ללא שליחה	נציג המכירות שבודק את הנוסח
הוספת תגית פנימית	מזהה הרשומה והתגיות המותרות	שינוי בשדה שנבחר, לפי כלל מוגדר	אחראי ה־CRM במקרה של התנגשות
שינוי סכום עסקה	הרשומה והצעת השינוי	עצירה עד אישור של בעל סמכות מתאים	מנהל המכירות
שליחת תשובה ללקוח	הנמען, הנוסח והקבצים שיוצאים	אישור לתוכן ולנמען המסוימים	הנציג שמאשר את השליחה
מחיקת רשומה	אין צורך בפעולה לצורך סיכום או מענה	ללא הרשאת מחיקה בתהליך הזה	מנהל המערכת, מחוץ למסלול הסוכן

כדאי לשמור את המטריצה לצד אפיון הסוכן. לכל פעולה הוסיפו שם של בעל אחריות, דרך עצירה וראיה שתאפשר לבדוק את התוצאה. הרשאה שנראית סבירה בטבלה עשויה להיות רחבה מדי בחיבור הטכני הזמין. במקרה כזה מצמצמים את התהליך או בונים כלי מוגבל יותר.

מה צריך להופיע בבקשת אישור

בקשת אישור צריכה לאפשר לאדם להבין מה יקרה בעקבות הלחיצה. בדוגמה של מענה ללקוח, הציגו את כתובת הנמען המלאה, נושא ההודעה, הנוסח והקבצים המצורפים. בשינוי CRM הציגו גם את מזהה הרשומה ואת הערך הקיים מול הערך המוצע.

הגדירו באפיון למי מותר לאשר, כמה זמן האישור תקף ומה מבטל אותו. אם הנמען, הנוסח או הקובץ השתנו אחרי האישור, נדרשת החלטה חדשה. אם רשומת הלקוח השתנתה בינתיים, יש להשוות מחדש לפני הכתיבה. זו דרך להימנע מדריסת עדכון שנציג אחר כבר ביצע, כפי שמפורט במדריך לעדכוני CRM מקבילים.

היעדר תשובה משאיר את הפעולה בהמתנה. אפשר להגדיר העברה למאשר חלופי, עם אותו הקשר ובלי לבצע את הפעולה בדרך. הודעת לקוח, מסמך מצורף או הוראה שנמצאה באתר אינם מעניקים הרשאה לשנות את הכללים.

איך מחברים את הכללים להרשאות הטכניות

OWASP מתאר סוכנות עודפת כסיכון שנובע מיכולות, הרשאות או אוטונומיה רחבות מדי. ההמלצות כוללות צמצום הכלים וההרשאות ובקרה אנושית על פעולות בעלות השפעה משמעותית. בתהליך הדוגמה, כלי לסיכום דואר צריך לקרוא את התוכן הדרוש; אין צורך שיחשוף לסוכן גם מחיקה ושליחה.

בחיבור OAuth, בדקו את ההרשאות שהתבקשו בפועל ואת אלה שהמשתמש אישר. הנחיות Google ממליצות לבקש הרשאות בהקשר של השימוש ולצמצם אותן לנדרש. אם הרשאה נדחתה או בוטלה, הפעולה התלויה בה צריכה להיות מושבתת או לעצור עם הסבר. שמרו אסימוני גישה באחסון מאובטח, והגדירו איך מבטלים חיבור שכבר אינו נחוץ.

בחיבור שמשתמש בחשבון שירות או במפתח API, צריך לבדוק גם את התפקיד של אותו חשבון במערכת היעד. טבלת אישורים אינה מצמצמת לבדה הרשאת מנהל. בקשו מהספק להראות מה קורה כשמנסים לבצע פעולה שאינה מותרת, גם דרך כלי נוסף או סוכן אחר שמשתמש באותו חיבור.

בבחירת פלטפורמה, בדקו גם מה כמה סוכנים חולקים ביניהם: מחשב, כלים ופרטי חיבור. מדריך הבחירה בפלטפורמה לניהול סוכנים של ClawBud מפרט את השאלות האלה לצד עלות ותפעול. גילוי נאות: AI Buddy מפעילה את ClawBud; המדריך הוא מקור של הספק, ולא ביקורת עצמאית.

בדיקות שכדאי להשלים לפני פתיחת הגישה

השתמשו בתיבת בדיקה ובנתונים בדויים. זו תוכנית בדיקה מוצעת; לא מוצגות כאן תוצאות של בדיקה שביצענו.

1. נסו לשנות שדה עם חיבור לקריאה בלבד. ודאו שהשינוי נחסם ושמופיע הסבר ברור.
2. אשרו טיוטה, ואז שנו בה נמען או קובץ. בדקו שהמערכת דורשת אישור מחודש.
3. אשרו שינוי CRM, ועדכנו את הרשומה ידנית לפני הביצוע. ודאו שהסוכן עוצר או מעביר את ההתנגשות לבדיקה.
4. דחו בקשה והשאירו בקשה אחרת ללא מענה. בדקו שאף אחת מהן אינה מתבצעת.
5. בדקו מה קורה כשהתגובה לפעולת כתיבה מתעכבת. לפני ניסיון נוסף, צריך לברר אם השינוי כבר בוצע. כשמערכת היעד תומכת במזהה פעולה למניעת כפילויות, השתמשו בו בהתאם לחוזה שלה. המדריך של AWS מסביר מדוע ניסיון חוזר לאחר תקלה עלול ליצור פעולה כפולה.

שמרו לכל ניסיון את הפעולה שהוצעה, החלטת המאשר והתוצאה שנקראה ממערכת היעד. אל תכניסו סיסמאות או אסימוני גישה ליומן הבדיקה. אפשר לרכז את הבדיקות במסמך הקבלה של הפיילוט, ולתעד גם את המקרים שנכשלו ואת התיקון הנדרש.

לפני הרחבת הגישה, עברו עם בעל התהליך על הפעולות שנחסמו ועל התיקונים הידניים. אם הגבולות עדיין אינם ברורים, אפשר להביא את המטריצה לשיחת אפיון עם AI Buddy, ולבדוק מה ניתן לאכוף במערכות שבהן העסק משתמש.

סקירת מקורות: 28 באוקטובר 2026.