ענקית הבינה המלאכותית OpenAI הציגה ביום שישי טכנולוגיה חדשה, באמצעותה ניתן לייצר גרסה של קול אנושי מקליפ של 15 שניות בלבד ולהשתמש בה כדי להקריא טקסט בקול. בנוסף, הטכנולוגיה שנקראת “Voice Engine” יכולה לייצר גרסה של הקול בשפות זרות, גם אם ההקלטה המקורית הייתה באנגלית.
עם זאת, החברה לא תשיק את הטכנולוגיה לפני שתחקור היטב את הסיכונים הפוטנציאלים הטמונים בה, בין היתר החשש משימוש לרעה בקולות משובטים בשנת בחירות. פקידים במערכת הבחירות בארה”ב אמרו כי 2024 תהיה השנה הראשונה שבה ייאלצו להתמודד בקנה מידה רחב עם דיסאינפורמציה שנוצרה על ידי בינה מלאכותית.
דוגמה לניסיון הונאת מצביעים באמצעות AI התרחשה בינואר האחרון, אז בוצעו לפי הערכות בין 5,000 ל-25,000 שיחות לתושבי ניו המפשייר, בבקשה לא להצביע לנשיא ביידן בפריימריז לנשיאות. הטוויסט – הבקשה נשמעה בקולו, המזויף כמובן, של ביידן עצמו.
ניסיון הונאה נוסף שעלול להתרחש באמצעות כלים לשיבוט קולות אנושיים, הוא שימוש בקולם כדי לגשת למידע פרטי או לעקוף אמצעי אבטחה מבוססי קול, שקיימים למשל בבנקים. כאמור, החברה עצמה מסרבת לעת עתה להשיק את הטכנולוגיה, ואפילו מבקשת בהודעה לציבור “להבין לאן תוביל הטכנולוגיה הזאת, בין אם תפרוס אותה באופן נרחב או לא”.
