ערכים בממשק שבין אנשים לבין מודלי שפה
האם למודלי שפה יש ערכי ם? האם הם יכולים ליצור מערכת ערכים קוהרנטית, כמו מערכת הערכים של אנשים? ואלו ערכים אנו לומדים בקשר איתם?
בפרויקט זה, הנערך בשיתוף גוגל, אנו משתפים פעולה פעם פרופ' אמיר גלוברזון ופרופ' גל אלידן. אנו חוקרים מודלי שפה, מערכות ממוחשבות כמו Chat GPT, Bard ו Gemini. מערכות אלו פרצו אל חיינו בסערה וגילו יכולות מתקדמות. אנו שואלים האם מודלי שפה יכולים ליצור מערכת ערכים מורכבת, בדומה למערכת הערכים של אנשים. אנו שואלים גם האם מודלי שפה יכולים ליצור מערכות ערכים המדמות אוכלוסיה אנושית מגוונת. כיוון שאנשים מנהלים אינטראקציות תכופות עם מודלי שפה, אנו שואלים האם אינטראקציות אלו יכולות להשפיע על ערכיהם של אנשים ולשנות אותם.
הצוות
פרופ' אלה דניאל
חוקרת ראשית
ד"ר נעמה רוזן
עמיתת פוסט דוקטורט
שותפים
פרופ' אמיר גלוברזון
בית הספר למדעי המחשב ע"ש בלטווניק, אוניברסיטת תל אביב
גוגל
פרופ' גל אלידן
המחלקה לסטטיסטיקה, האוניברסיטה העברית בירושלים
גוגל
פרופ' שרון אריאלי
בית הספר למנהל עסקים, האוניברסיטה העברית בירושלים
אסף יהודאי
תלמיד דוקטור
האוניברסיטה העברית בירושלים
IBM
פרסומים
Rozen, N., Elidan, G., Globerson, A, & Daniel, E. (2023)
חדשות וארועים
July 15, 2024
Presenting at the AI for Sustainability and Education: Annual meeting of the Center for AI and Data Science at Tel Aviv University and Google