בינה מלאכותית אחראית בארגונים: עקרונות, סיכונים והזדמנויות

שרית ביין
23 באפר׳
זמן קריאה 2 דקות

עודכן: 29 באפר׳

יד אנושית ויד רובוטית לוחצות זו את זו, מוקפות באייקונים המייצגים אבטחה, חוק ואמון.

השימוש בבינה מלאכותית גנרטיבית (Generative AI) בארגונים הולך ותופס תאוצה. עם זאת, לצד הפוטנציאל המשמעותי הגלום בשימוש בבינה מלאכותית לשיפור תהליכים וקבלת החלטות, עולה אחריות כבדה להבטיח שימוש אחראי בטכנולוגיה.

בינה מלאכותית אחראית (Responsible AI) אינה רק עניין טכנולוגי. זוהי גישה לפיתוח, הטמעה ושימוש ב-Gen AI באופן שמקדם ערכים אתיים, שקיפות, בטיחות, הוגנות ושמירה על זכויות המשתמשים.

כדי להטמיע שימוש אחראי ב-AI בארגונים, יש לייחס חשיבות מיוחדת לשבעה תחומים עיקריים:

אבטחת מידע

שימוש במודלים גנרטיביים טומן בחובו סיכונים הקשורים לחשיפת נתונים. גורמים מחוץ לארגון עשויים לגשת למידע רגיש דרך בקשות או תשובות למודלים. הפתרון לסוגיה זו כולל שימוש בענן פרטי, קווים פרטיים, הצפנה ובקרת גישה, נושאים הנמצאים בתחום האחריות של מחלקת אבטחת הסייבר.

פרטיות נתונים

נתונים אישיים, גם אם נמסרו שלא במתכוון, עלולים להיחשף בעת שימוש ב-AI, הן לגורמים בתוך הארגון והן מחוצה לו.

כפתרון לכך ניתן לאמץ גישות כמו אנונימיזציה, שליטה במקורות נתונים וחינוך משתמשים, לצד מינוי אחראי על הגנת הפרטיות בארגון.

אמינות המידע

בינה מלאכותית עשויה להניב תשובות שגויות, חלקיות, מסולפות או מיושנות. ללא גוף מובהק בארגון אשר אחראי על המידע, המשתמשים נדרשים להפעיל חשיבה ביקורתית, לבצע אימות צולב של המידע, להשתמש בבינה מוסברת ולבקש מפורשות ציטוטים ומקורות מידע.

זכויות יוצרים

החשש מהפרת זכויות ביצירת תוכן בעזרת AI מצריך התמודדות משפטית מדויקת, שימוש הוגן וייחוס מקורות. חשוב לציין כי רוב התשובות של מערכות כמו ChatGPT הן חדשניות ואינן מהוות העתק ישיר של מקורות קיימים.

אתיקה עסקית

למניעת מקרים של הפרת סטנדרטים, נורמות וערכים, על הארגון בכלל, ומחלקות האתיקה, הציות והאחריות התאגידית בפרט, להגדיר נורמות ערכיות ברורות ולפעול בהתאם. שימוש נכון כולל שקיפות בארגון, עיצוב של צ'אטבוטים והגדרת נהלים למשתמשים.

רגישות תרבותית וחברתית

המידע המתקבל מה-AI חייב להיות מותאם להקשרים מגדריים, תרבותיים וארגוניים. למניעת חוסר רגישות מגדרי / תרבותי או מַפְלֶה בדרך אחרת, על מחלקות גיוון / אתיקה לוודא איסוף נתונים ממגוון מקורות, פיקוח אנושי ומשוב מתמיד על המידע המתקבל.

הטיות

מודלים עלולים לשקף או להעצים הטיות קיימות. למניעת הטיות, על הארגון לוודא שקיים פיקוח אנושי על המידע, כולל מעקב וביקורת פנימית וחיצונית. מתן תשומת לב להטיות חשוב במיוחד, וצריך להיות באחריות כלל היחידות בארגון.

לסיכום

בינה מלאכותית אחראית אינה רק שאלה של טכנולוגיה, היא מצריכה גישה מערכתית, ארגונית ומעשית מתאימה.

הדרך לשימוש נכון ב-AI עוברת דרך הגדרה ברורה של תחומי אחריות, הטמעת מדיניות מותאמת לארגון, פיקוח שוטף, והטמעת תהליכי הדרכה אפקטיביים לעובדים. רק כך נוכל לממש את הפוטנציאל העצום של הבינה המלאכותית, תוך שמירה על אתיקה, פרטיות, אמינות המידע וסטנדרטים מקצועיים.

בעולם שבו הטכנולוגיה מתפתחת בקצב מהיר מאי פעם, האחריות שלנו, המשתמשים, היא לבצע שימוש חכם ומושכל ללא לקיחת סיכונים מיותרים, וכפי שאמר פרופסור קלאוס שוואב, מייסד הפורום הכלכלי העולמי: "Technology shapes the future. But it is people who shape technology".