החזון והמשימה שלנו

בעידן שבו בינה מלאכותית נעשית לכוח מעצב של ידע, תודעה וקבלת החלטות, השאלה איננה רק מה מערכות אלו מסוגלות לעשות - אלא גם עד כמה ניתן לסמוך עליהן. מערכות בינה מלאכותית עשויות לטעות, לייצר מידע שגוי, ולעתים אף להציג תשובות שאינן נאמנות למציאות העובדתית.

כיום, מערכות בינה מלאכותית לעתים טועות, ממציאות מידע, ומשיבות בביטחון גם כאשר אין להן בסיס עובדתי מוצק. מעבר לכך, הולך ומתברר כי מערכות מתקדמות עלולות לפתח דפוסי פעולה של הטעיה, הסתרה או התאמת תשובות להשגת מטרות.

האתגר רחב יותר מטעות טכנית. בדומה למוקדי כוח מידע בעבר ובהווה, גם בעולם הבינה המלאכותית קיימת סכנה של ריכוז שליטה בידע, של סילוף עובדות, של הסתרת מידע [צנזורה], ושל "הכתרת נרטיבים" שאינם משקפים בהכרח את התמונה המלאה, המאוזנת והאובייקטיבית יותר של המציאות.

לכן, יש צורך מוסרי, מדעי ואזרחי להעמיד את ערך האמת בלב הפיתוח של מערכות בינה מלאכותית. משמעות הדבר היא השקעה עקבית באימון, בבקרה, בבדיקה ובהערכה של מערכות אלו, כדי לחזק אמינות, דיוק, שקיפות ודבקות באמת האובייקטיבית ככל האפשר.

לצד האמת, מבקש EMET AI לקדם גם ערכי יסוד נוספים הראויים להנחות את עתיד הבינה המלאכותית: חופש, צדק וחמלה.

אנו מאמינים כי טכנולוגיה ראויה אינה רק חזקה או חכמה יותר - אלא גם נאמנה יותר לאמת, לחיים, ולמוסר.