הסינגולריות קרבה

כתב: אמנון כרמל
תמלל: יוני שטרן

שלום רב. שמי אמנון כרמל, ואני מתכבד להגיש הפעם פרק בתכנית "עושים היסטוריה" כמחליפו הזמני של רן לוי. בניגוד לרוב הפרקים בפודקאסט, שעוסקים בהיסטוריה, אני רוצה לעסוק דווקא בעתיד. בעשור האחרון אני חוקר באופן עצמאי בתחומי העתידנות, הטכנולוגיה, המדע והפילוסופיה, ותוכלו למצוא רבים מהמאמרים שלי בבלוג www.amnoncarmel.com , או בחיפוש פשוט בגוגל אחר השם "אמנון כרמל".

הפעם אביא לכם את אחד המאמרים שפרסמתי, שעוסק בספרו המהפכני של ריי קורצווייל, שנקרא "The Singularity is Near". הספר זכה להיות רב-מכר והוא נחשב לפורץ-דרך וחשוב בתחומו. גרסה עברית שלו נמצאת בתרגום, ואמורה להתפרסם בעוד כשנה עד שנה וחצי, וכעת נמצא אפילו סרט, בעקבות הספר, בשלבי עריכה סופיים, ואמור לצאת לאקרנים בראשית 2009.

ריי קורצווייל הוא אדם מעניין וחשוב ביותר, שרוב האנשים, לצערי, מעולם לא שמעו עליו. קורצווייל הוא עתידן, איש מחשבים ומהנדס, שייסד חברות טכנולוגיות שונות בתחומי הבינה המלאכותית ועמד בראשן כבר מראשית שנות ה-60. קורצווייל הוא איש אשכולות ולדעתי האישית – אחד הסופרים, אנשי המדע והרוח החשובים ביותר כיום. קורצווייל נולד בארה"ב והחל לתכנת בשנת 1960, כשהיה בן 12 בלבד. בשנות נעוריו פיתח מחשב שניגן על פסנתר בכוחות עצמו. בגיל 20 הוא מכר את החברה הראשונה שלו, שפיתחה תוכנה שהתאימה מסלול למידה אקדמי אישי למסיימי תיכון באמצעות מילוי שאלון.

מאז הספיק קורצווייל לעמוד בראש חברות רבות, שחלקן נמכרו בסכומי עתק. בין השאר, היה מראשוני המפתחים של תוכנות OCR לזיהוי כתב, תוכנות דיבור אוטומטיות המקריאות טקסט לעיוורים, הסינתיסייזר הראשון שמסוגל לנגן צלילים של פסנתר אמיתי וכלי נגינה דיגיטליים אחרים, תוכנת זיהוי דיבור מוצלחת שנמכרה לחברת Scansoft תמורת כמאה מיליון דולר ב-97' ועוד. עוד עסק קורצווייל בפיתוח טכנולוגיות בתחומים שונים ומגוונים, כמו מציאות מדומה, השקעות פיננסיות, פיתוחים צבאיים, הדמייה רפואית, אומנות דיגיטלית ועוד. קורצווייל זכה באינספור תארים ופרסים שונים על המצאותיו, השגיו המדעיים וספריו, כולל פרסים יוקרתיים ביותר כמו ה-National Medal of Technology, שנחשב לפרס היוקרתי ביותר בארה"ב בתחום הטכנולוגיה, וכן פרס מטעם משרד הפטנטים האמריקאי, שהעניק לו סכום של כחצי מיליון דולר.

בספרו האחרון, "הסינגולריות קרבה", מצייר קורצווייל תמונה לא-פחות ממדהימה. לטענתו, עד ראשית שנות העשרים של המאה הנוכחית, עוצמת המחשבים תאפשר לנו להגיע לכמות החישובים שמתבצעת במוח. באותה תקופה כבר תהיה לנו הבנה מעמיקה אודות אופן הפעולה של המוח, מה שיאפשר לנו ליצור תוכנה ברמה גבוהה, ובכך ליצור למעשה אינטליגנציה מלאכותית, שנקראת גם AI, ברמה דומה מאוד לזו של בני אדם. עד אמצע שנות הארבעים של המאה הנוכחית נמשיך לפתח את היכולות שלנו, ובשלב מסוים המחשבים ייקחו את השליטה לידיהם וימשיכו בפיתוח מתמיד ומואץ. המחשבים, אם אפשר יהיה לקרוא להם "מחשבים" בשלב הזה, ימשיכו להתקדם ולהתפתח וכל דור יהיה מהיר יותר, חזק יותר ויעיל הרבה יותר, כך שקצב השיפור רק ילך ויגבר. קורצווייל חוזה שבשנת 2045 תתרחש ה"סינגולריות": נקודת המהפך בהיסטוריה, שבעקבותיה אין לדעת מה יקרה, ולאחריה האנושות תשתנה ללא-הכר.

הדרך ליכולות מופלאות אלה והסוגיות הפילוסופיות המוסריות העמוקות הנלוות לכך אינה ארוכה כפי שניתן להניח. קורצווייל מתווה מסלול ישיר לשילוב אולטימטיבי בין האדם למכונה, ולפיתוח אינטליגנציה מלאכותית גבוהה לאין שיעור ממכלול האינטליגנציות של כל בני-האדם כיום. הדרך לשם עוברת בשלוש מהפכות חשובות, אותן מכנה קורצווייל GNR.

GNR

G – genetics: המהפכה הגנטית כבר כאן. פענוח הקוד הגנטי האנושי והמיליארדים שמושקעים כאן במכוני המחקר השונים, נותנים כבר היום את אותותיהם בפיתוח תרופות, בדיקות ושיטות ריפוי חדשות. פיתוח מזון עמיד יותר, מזין יותר וטוב יותר בכל קנה-מידה, זיהוי ועצירה של מגפות, מניעת מחלות גנטיות ועוד. הפיתוחים נעשים בקצב אקספוננציאלי שהולך וגובר, ומשפיעים כבר היום על חיינו באופן מקיף. עד אמצע שנות העשרים של המאה הנוכחית נוכל לסנן את כל הפגמים הגנטיים מילדינו, ולהעניק להם תכונות חדשות שאינן נמצאות בגנים של ההורים. נוכל גם להשתמש בטכנולוגיה לייצור תרופות יעילות הרבה יותר, המותאמות אישית לחולים, לייצר מזון מגידולים שיוכלו לצמוח גם בתנאי אקלים קשים מאוד, ובאופן זה להאכיל את אוכלוסיית העולם הגדלה.

N – Nano technology: מהפכת הננוטכנולוגיה, שאת ניצניה אנו רואים כבר היום, תתפתח בסוך שנות העשרים ותפרח בשנות השלושים. הננוטכנולוגיה מתמקדת, בין היתר, בייצור רובוטים בקנה-מידה מולקולרי ואפילו אטומי, ומשמעות הדבר היא כי נוכל לייצר רובוטים זעירים בגודל של תאים ואפילו מולקולות. ננו-רובוטים שכאלה יכילו מספיק זיכרון, אנרגיה, יכולת חישוב ויכולת לתקשר עם הננו-רובוטים האחרים ועם העולם החיצון באמצעים אלחוטיים, כך שנוכל – למעשה – ליצור כל חומר העולה על רוחנו. חשבו על מדפסת אטומית תלת-ממדית שתאפשר ליצור כל דבר בעולם: יהלומים, מחשבים חזקים, קפה, עצים, בעלי-חיים…וגם בני-אדם. אם נצליח לשכפל בדיוק מוחלט של אחד-לאחד בני-אדם, על כל הנוירונים, הכימיקלים והתאים המרכיבים אותם, הרי שלמעשה נוכל ליצור טלפורט: מכשיר שיאפשר להעביר בני-אדם וחפצים ממקום למקום באופן מיידי, ממש כמו ב"מסע בין כוכבים", אם כי נאלץ למצוא, כמובן, פתרונות להשמדת המקור אחרי ההעברה…

ננו-רובוטים שכאלה יוכלו להסתובב בתוך גופינו, ולבחון את כל המתרחש, להתריע בגין מחלות, סתימות בכלי-הדם, גידולים ועוד. כמו כן, הם יוכלו להילחם באופן פעיל בווירוסים וחיידקים, תוך שהם משחררים תרופות וכימיקלים במינון מדויק, ישירות למקומות המתאימים בגוף. ע"י נטרול המחלות שמובילות למוות, כמו שבץ, התקפי-לב, סרטן ועוד, צפויה תוחלת-החיים לעלות בצורה משמעותית ביותר. הננו-רובוטים יוכלו גם להיכנס את המוח ולתקשר ישירות עם הנוירונים ושאר החלקים במוח. יהיו לכך כמה השפעות משמעותיות ביותר: נוכל למפות באופן מדויק לחלוטין את המוח ואת אופן פעילותו, ובכך להבין באופן סופי ומוחלט כיצד פועל המוח וכיצד עובדת האינטליגנציה, מה שיוביל למהפכת האינטליגנציה המלאכותית, שנקראת גם R, עליה ארחיב בהמשך.

הננו-רובוטים במוח יוכלו להתלבש על הנוירונים, ובכך ליצור אשליה מוחלטת של מציאות מדומה, ממש כמו בסרט "המטריקס". נוכל ליצור עולם וירטואלי, שיהיה מבחינתנו מציאותי לחלוטין מכל בחינה: תחושות, רגשות, חושים – הכול. ההבדל הוא שאנחנו נוכל לשלוט בעולם שלנו, נוכל לבחור כיצד ניראה, באיזה מקום נסתובב – אפילו מה יהיו חוקי הפיזיקה. החיבוריות לרשת האינטרנט, או יותר נכון – מה שיהיה האינטרנט באותו שלב בעתיד, תאפשר לנו לתקשר בצורה מושלמת עם אנשים אחרים, או עם הדימויים הווירטואליים של אנשים אחרים. באמצעות תקשורת ישירה עם הנוירונים, יוכלו הננו-רובוטים גם להשתלב ולהוסיף באופן הפעולה של המוח: הוספת זיכרון, שיפור מהירות החישוב, הקלטת חלומות ומחשבות, העברת מחשבות ורגשות מאדם לאדם ועוד. ע"י שילוב כוח מחשוב טכנולוגי בביולוגיה של המוח, נהפוך לסייבורגים בעלי יכולות מדהימות, שיותירו את בני-האדם הביולוגים הרחק מאחור. למעשה, נשבור את כל המחסומים האבולוציוניים שמגבילים אותנו מאוד כיום בתחומים שונים.

וכאן אנחנו מגיעים למהפכה השלישית, R – רובוטיקה. המהפכה השלישית עליה מדבר קורצווייל, זו שתהיה הנדבך האחרון בדרך אל נקודת הסינגולריות, היא מהפכת הרובוטיקה. למעשה, מתייחס קורצווייל בעיקר לאינטליגנציה מלאכותית כגורם החשוב במהפכה הזו. אנו עדים כבר כיום לשילובם של רובוטים בשלל תחומים: בתעשייה, בבידור, באחזקת הבית ועוד, אלא שזו רק תחילתה של המהפכה שתפרוץ באמצע שנות השלושים של המאה ה-21. הרובוטים יהיו לא רק בעלי תכונות פיזיות המשלבות חוזק, גמישות ומקוריות, הם גם יוכלו להיות בכל גודל, החל – כאמור – מגודל של מולקולות, שזה בעצם הננו-רובוטים, ועד לרובוטים אדירי-ממדים בחלל. אלא שהתכונות הפיזיות המרשימות של הרובוטים נותרות בצל לנוכח האינטליגנציה הגבוהה שתהיה להם, ואשר תוביל לנקודת הסינגולריות. זה אולי נשמע בדיוני לחלוטין, אלא שקורצווייל מתווה דרך קצרה וישירה עד לסינגולריות.

כאמור, כבר בסביבות שנת 2020 תהיה לנו חומרת המחשוב הדרושה כדי ליצור סימולציה אחד-לאחד של כל התהליכים הפועלים במוח. במהלך שנות ה-20, נפתח מודלים טובים יותר ויותר של אופן פעולת המוח, בין היתר ע"י מיפוי מדויק בזמן-אמת באמצעות ננו-רובוטים שיוכנסו לתוך המוח עצמו. ההבנה המוחלטת של אופן פעולת המוח תאפשר לנו ליצור מודלים מדויקים של המוח, ובכך ליצור אינטליגנציה מלאכותית השווה באיכותה לזו של האדם. אלא שלא בכך יסתיים התהליך: עוצמת המחשוב ההולכת וגדלה כל הזמן, בשילוב עם הבנה טובה של התהליכים במוח, תוביל לפיתוח אינטליגנציה גבוהה יותר ויותר, עד שבשלב מסוים היא תוכל לקחת על עצמה את היכולת לשיפור-עצמי. מכאן ועד לנקודת הסינגולריות הדרך קצרה. האינטליגנציה המלאכותית תהפוך לחזקה וטובה יותר מן האינטליגנציה של כל האנושות, ועד למיליארדי פעמים יותר מסך כל האנושות כולה.

מיהו אדם?

התרבות הפופולרית הפכה את המחשבים האינטליגנטיים לאיום עתידני. כולנו מכירים את התסריטים הבדיוניים שבהם המכונות משתלטות על הגזע האנושי. ראינו אותם בסרטים כמו "המטריקס", "שליחות קטלנית", "אני רובוט", ובאינספור ספרים וסרטים אחרים. אבל היכן עובר הגבול בין אדם למכונה? האם יש לנו סיבה לפחד, או אולי מדובר כאן במהפכה שכולנו בכלל נרצה לקחת בה חלק?

בספרו הקודם של קורצווייל, "עידן המכונות החושבות", דן קורצווייל בשאלת הגבול בין האדם למכונה. מי שסובל מבעיות שמיעה ומשתמש במכשיר שמיעה שהוא למעשה רמקול קטן שמוצמד לאוזן, ומי שמשתמש בדיבורית בלוטות' אלחוטית המחוברת לטלפון הסלולרי שלו, הוא אדם לכל דבר ועל כך איש לא יתווכח. טכנולוגיות חדשניות מאפשרות לעיוורים לראות באמצעות מצלמות וידאו שמחוברות ישירות לעצבי הראייה במוח, מאפשרות לנכים, למשל, לשלוט בכיסא הגלגלים ובסביבה שלהם באמצעות חיבור ישיר של המחשבים אל המוח. אין כמעט אדם שיטיל ספק באנושיותו של מי שישתמש בטכנולוגיות כאלה לשיפור חייו. האנשים הם אותם אנשים עם אותן יכולות מנטליות ומחשבות שהיו להם קודם. אך מה בדבר השתלה של שבב במוח, שיאפשר לחולי אלצהיימר לתפקד כרגיל, בזמן שהשבב משפיע ומנטר את פעילות המוח שלהם? האם גם כאן האדם נותר אותו אדם כאשר מתקיימת התערבות ישירה בפעילות המוחית שלו? נראה שרוב האנשים יסכימו כי אין כאן עדיין ירידה ברמת האנושיות של מי שישתמש בטכנולוגיה זו.

ומה אם אדם יצליח להרחיב את יכולות הזיכרון של המוח שלו באמצעים לא-ביולוגיים? זה אולי נשמע הזוי, אבל עשרות מכוני מחקר פרטיים וציבוריים בעולם עובדים על השגת מטרה זו בדיוק – הרחבת יכולות המוח באמצעים טכנולוגיים. האם אדם שהזיכרון המשופר שלו יאפשר לו לזכור בפרוטרוט אלפי מספרי טלפון וכתובות, וכן אירועים מהעבר בצורה מדויקת יותר – האם הוא פחות אנושי? כאן כבר הידע שלנו אודות מהו "אנושי" מתחיל להיות נתון לפרשנות אישית. ומה לגבי הרחבות של המוח שיאפשרו לו הרחבה משמעותית של יכולת החישוב של המוח, חיבור לרשת שיאפשר למידה מיידית של כל נושא בעולם, ממש כמו בסרט "המטריקס", קריאה והעברה של מחשבות מאדם לאדם, או יכולות חישוב אדירות יותר מכל כוח המחשוב שקיים היום בעולם? האם שילוב כה קיצוני של אדם ומכונה עדיין ייקרא "אנושי"?

לרמות את המוות

עוד מצייר קורצווייל עתיד שבו אנחנו נצליח סוף-סוף לרמות את המוות ולחיות כמעט לנצח. הוא לא מדבר רק על הדורות הבאים אלא בראש ובראשונה על עצמו. קורצווייל יליד 48', חי כיום לפי אורח חיים בריא עד מאוד – יש שיגידו בריא עד כדי טירוף: הוא בולע מאות כדורים ביום ותוספי מזון. הוא עוסק בפעילות ספורטיבית ומנטר את הגוף שלו ללא הפסקה, תוך שהוא מאזן אותו עד כמה שרק ניתן באופן שוטף. לדבריו, למרות שבזמן כתיבת הספר הוא היה בן 58, הגוף שלו מתפקד כשל בן 40. מטרתו של קורצווייל היא לעכב את הזקנה עד הגעתה של המהפכה הגנטית, שאותה הוא צופה כבר בעשור הקרוב. מהפכה זו תאפשר לו להחזיק מעמד עד למהפכה הגדולה הבאה – הננוטכנולוגיה – שתגיע לטענתו בשנות השלושים של המאה הנוכחית. מהפכת הננוטכנולוגיה תעניק לו חיים ארוכים מספיק כדי להיות שותף פעיל במהפכת האינטליגנציה המלאכותית, שתעניק לו את חיי-הנצח שלהם הוא מייחל. לדבריו, אין סיבה להשלים עם המוות רק משום שלאורך ההיסטוריה כולם מתו עד היום: אנחנו יכולים וצריכים לשנות את המצב.

קורצווייל דוגל בגישה לפיה האינטליגנציה המלאכותית היא למעשה חלק בלתי-נפרד מהאבולוציה. לפי גישה זו, מהרגע שנוצר התא הראשון, אין מנוס מיצירה של חיים אינטליגנטיים שיובילו בסופו של דבר לאינטליגנציה מלאכותית שתתעלה הרבה מעבר לאינטליגנציה הביולוגית. גישה דומה ניתן למצוא בספרם של פרופסור חגי נצר ועמי בן-בסט, שנקרא "מסע אל התבונה". בספר טוענים פרופ' נצר ובן-בסט כי חומר אורגני באשר הוא, יוביל באמצעות הכוחות האבולוציוניים, בסופו של דבר, לאינטליגנציה, והיא בתורה תוביל לאינטליגנציה מלאכותית גבוהה לאין-שיעור. אינטליגנציה גבוהה זו תוליך למסעות נרחבים בחלל, ללא קשר למקום שבו היא תיווצר ביקום, כל עוד לא תהיה קטסטרופה טוטאלית, בדמות השמדת הכוכב שעליו תתפתח אינטליגנציה זו. אגב, אחרי חישובים שונים והשערות מורכבות המתוארים בספר, המסקנה של פרופ' נצר ובן-בסט היא כי בגלקסיה שלנו בלבד היו – או קיימות כיום – לפחות ארבעים מיליון תרבויות מפותחות לפחות כמו שלנו. אם ניקח בחשבון שביקום הנראה לעין יש כמאה מיליארד גלקסיות, אולי נבין כי אנחנו לא נמצאים כאן לבדנו, אם כי אני אישית סקפטי מאוד לגבי הגעתם של חייזרים לכוכב שלנו. אגב, קורצווייל דווקא מבקר את הגישה המדעית שמנסה לחשב כמה אינטליגנציות קיימות ביקום בספרו.

זאת ועוד

קורצווייל מכליל בספרו עוד מגוון רחב של נושאים: טכנולוגיות צבאיות, עתיד החינוך, המציאות המדומה והמתוספת, פילוסופיה, פיזיקה מולקולרית, כימיה, רפואה, ההיסטוריה של המדעים, פונדמנטליזם, תכנון עירוני, גלובליזציה, פוליטיקה, איכות הסביבה ועוד שלל נושאים מעניינים, שכל אחד מהם ראוי לספר נפרד בפני עצמו. הספר הזה הוא כל-כך רחב יריעה, עד שבכמה מקרים נראה כאילו קורצווייל ניסה לכתוב מעין תנ"ך – ספר שמקיף את כל ההיבטים האפשריים הקשורים לחיינו בעתיד. בכלל נראה קצת כאילו קורצווייל מנסה לייצג מעין כת – הסינגולריים: אנשים שמבינים את ההשלכות העתידיות של הסינגולריות, שומרים על איכות חיים ובריאות כדי לחיות לנצח, ומיישמים את ההליכים הנדרשים כדי להשתלב בעולם העתיד. זה לאו-דווקא רע: ספרים רבים שקראתי מטיפים לאורח חיים מסוים המשקף את דעת המחבר, אבל זה בכל זאת מעט מוזר בכמה מקרים.

בנוסף, אני חייב להודות שלמרות שאני חוקר את תחום העתידנות והטכנולוגיה בשנים האחרונות, וחסיד גדול של היכולות הטכנולוגיות, הרעיונות שמעלה קורצווייל בספרו נשמעים פרועים, במיוחד משום שהוא טוען כי הם עומדים להתרחש בעתיד הקרוב ולא בעוד מאות או אלפי שנים. קורצווייל, שסבל בעבר ביקורות רבות על התחזיות האופטימיות שלו לגבי העתיד, מצרף לכל אחת מהתחזיות תיאורים ארוכים ומפורטים של כל השלבים הנדרשים בדרך לפתרון. הוא מציג שלל מחקרים, דוגמאות והסברים לכל אחד מהשלבים הללו. הוא עושה זאת בצורה כל-כך מקיפה, כולל הצגת הקשיים הצפויים והדרכים היעילות ביותר להתמודד איתן, שקשה למצוא פגם ברעיונות שהוא מעלה. הוא אפילו מקדיש את הפרק האחרון בספרו לביקורות שהפנו אליו, ועונה עליהם סעיף-אחר-סעיף, בצורה מדוקדקת ומלומדת. לאור ניסיון העבר, תחזיות רבות שלו אכן התגשמו, אך תחזיות אחרות התבדו, וחשוב להפעיל שיקול דעת ולקרוא את הכתוב בעין ביקורתית.

בכל מקרה, המסקנה החד-משמעית שלי היא: רוצו לקנות את הספר "The Singularity is Near", או לפחות עשו זאת כאשר יצא התרגום לעברית, בעוד כשנה עד שנה וחצי. גם אם ייקח לכם חודשים ארוכים כדי לצלוח את הספר הגדול הזה, וגם אם תקראו רק חלקים ממנו, הוא יעשיר את עולמכם בצורה פנטסטית.