מניהול סיכונים לתוצאות: הלקחים המעשיים של Adobe עבור מנהלי ידע בעבודה עם AI
בין אם אתם טקסונומים ובין אם כל סוג אחר של אנשי ניהול ידע- היה הרבה מה ללמוד (ולהנות!) מהסשן של רייצ'ל מדיסון וקונור קנטרל בכנס KM World 2025.
הם לקחו אותנו למסע האמיתי של בניית טקסונומיות מבוססות LLM: ההצלחות, האתגרים, הסיכונים וההחלטות המעשיות שמתקבלות לאורך הדרך.
הנה כמה מסרים שאני מאמינה שכל אחד מאיתנו צריך לקחת קדימה בעת פיתוח LLMs או סוכני AI:
1. ניהול סיכונים מתחיל לפני שמתחילים
חשבו מראש על הנתונים, על המודל שתבחרו, על גישת האימון, סוגיות האבטחה, ובעיקר – מהי ההגדרה שלכם להצלחה.
2. צפו, וחפשו באופן פעיל, שלושה סוגי טעויות
תוצאות לא עקביות
תוצאות לא מדויקות
תוצאות לא מכוונות
זיהוי מוקדם שלהן יכול לחסוך מאמץ עצום בשלבים מתקדמים.
3. השתמשו בפרקטיקות פשוטות אך חזקות של פרומפטינג
היו מוכנים לאיטרציה – כמעט כל פרומפט ניתן לשפר.
השתמשו ב-Reverse Prompting כדי לעצב קלטים טובים יותר.
כוונו את המודל לתוכן מסוים כדי להישאר בתוך תחום ולצמצם סטייה.
זה אולי נשמע כמו מסע מאתגר, אבל כשהוא מבוצע נכון – היתרונות משמעותיים. במקרה שלהם, כמות העבודה הידנית צנחה כמעט ב-90%.
ובכל זאת, שאלה אחת נשארת פתוחה:
האם ה-AI מרים את מנהלי הידע, או שהוא בעיקר מאיץ את המשימות ומפחית את הצורך במאמץ אנושי בטווח הארוך?
שיחה שבהחלט כדאי להמשיך.