16

AGI 2.0

Máy móc sẽ đi theo con đường giống như quá trình tiến hóa của con người. Tuy nhiên, cuối cùng thì các máy móc tự nhận thức và tự cải tiến sẽ tiến hóa vượt xa khả năng kiểm soát hoặc kể cả hiểu chúng của con người.

Ray Kurzweil

nhà phát minh, tác gia, nhà tương lai học Trong trò chơi của cuộc sống và tiến hóa, có ba người chơi bên chiếc bàn: loài người, tự nhiên và máy móc. Tôi kiên định đứng về phe tự nhiên. Nhưng tôi ngờ rằng tự nhiên lại đang ở phe máy móc.

George Dyson

nhà sử học Càng dành nhiều thời gian với các nhà chế tạo AI và các công trình của họ, tôi càng nghĩ rằng AGI sẽ đến sớm hơn. Và tôi tin khi nó đến, những người tạo ra nó sẽ khám phá ra rằng nó không phải là thứ mà họ muốn tạo ra, khi họ bắt đầu công cuộc tìm kiếm này nhiều năm trước đó. Đó là bởi, trong khi trí thông minh của nó có thể ở Cấp độ con người, thì nó sẽ không giống như con người, vì tất cả những lý do mà tôi đã trình bày. Sẽ có nhiều chuyện ầm ĩ về một giống loài mới được sinh ra trên hành tinh này. Sẽ có những sự ly kỳ. Nhưng sẽ không còn câu chuyện về AGI như một bước tiến hóa tiếp theo của Homo sapiens, và mọi hệ quả của nó. Ở một số khía cạnh quan trọng, chúng ta đơn giản sẽ không hiểu được nó là gì.

Trong lĩnh vực của nó, giống loài mới sẽ mạnh và nhanh như Watson trong trò chơi đố chữ. Nếu nó cùng tồn tại với chúng ta trong vai trò một công cụ, kiểu gì thì nó cũng sẽ vươn những cái vòi bạch tuộc của mình vào mọi mặt trong cuộc sống chúng ta, theo cách mà Google và Facebook đang muốn làm. Mạng xã hội có lẽ sẽ trở thành cái nôi, hoặc hệ thống phân phối của nó, hoặc cả hai. Nếu ban đầu nó là một công cụ, nó sẽ có câu trả lời trong khi chúng ta còn đang đặt câu hỏi, và sau đó, nó sẽ chỉ phục vụ cho bản thân. Trong suốt quá trình đó, nó sẽ không có cảm xúc. Nó sẽ không có nguồn gốc từ động vật có vú như chúng ta, không có thời niên thiếu học hỏi lâu dài như chúng ta, không có sự nuôi dưỡng bản năng như chúng ta, cho dù nó có được nuôi giả lập như một con người từ nhỏ đến tuổi trưởng thành đi nữa. Có thể sự quan tâm mà nó dành cho bạn sẽ chẳng nhiều hơn sự quan tâm của một cái máy nướng bánh mì.

Đó là AGI phiên bản 1.0. Nếu vì một vài sự may mắn kỳ quặc nào đó mà chúng ta tránh được sự bùng nổ trí thông minh và sống sót đủ lâu để gây ảnh hưởng lên việc chế tạo AGI 2.0, có lẽ nó sẽ có cảm xúc. Đến lúc đó, các nhà khoa học có lẽ sẽ tìm được cách mô phỏng điện toán các cảm xúc (với sự giúp đỡ của bản 1.0), nhưng cảm xúc sẽ chỉ quan trong thứ yếu, xếp sau mục tiêu chủ yếu là kiếm tiền. Các nhà khoa học có lẽ sẽ tìm ra cách huấn luyện những cảm xúc nhân tạo đó để tương thích với sự tồn tại của con người. Nhưng có lẽ 1.0 sẽ là phiên bản cuối cùng mà chúng ta còn được thấy, bởi chúng ta sẽ không sống được đến khi 2.0 ra đời. Giống như chọn lọc tự nhiên, chúng ta sẽ chọn những phương án khả thi đầu tiên, chứ không phải những phương án tốt nhất.

Stuxnet là một ví dụ cho điều đó. Các drone tự động giết chóc là một ví dụ khác. Với sự tài trợ của DARPA, các nhà khoa học tại Viện nghiên cứu Công nghệ Georgia đã phát triển một phần mềm cho phép những chiến xa không người lái xác định kẻ thù bằng phần mềm nhận dạng hình ảnh và các cách khác, sau đó phóng một drone chết người vào chúng. Tất cả sẽ diễn ra không cần có người ra lệnh. Tôi đã đọc được một bài báo về chuyện này, trong đó có một đoạn chứa ý tốt như sau: “Việc ủy quyền cho một cỗ máy ra quyết định trận mạc có tính sát thương phải tùy thuộc vào việc các nhà lãnh đạo chính trị và quân sự có giải quyết được những câu hỏi về pháp lý và đạo đức hay không.”1

Nó làm tôi nhớ lại một thành ngữ xưa “đã có vũ khí nào được phát minh ra mà không dùng chưa?” Chỉ cần tìm kiếm nhanh trên Google sẽ thấy một danh sách đáng sợ các robot được vũ khí hóa, được chuẩn bị đầy đủ để sát thương tự động, sẵn sàng chờ nhận lệnh (có một con do iRobot chế tạo, trang bị súng sốc điện).2 Tôi mường tượng là những máy móc này sẽ được dùng khá lâu trước khi bạn và tôi biết là chúng đã được dùng. Các nhà hoạch định chính sách, những người tiêu tiền dân, sẽ không cảm thấy họ cần phải có sự đồng thuận của chúng ta, giống như những gì họ đã làm trước khi liều lĩnh triển khai Stuxnet.

Khi viết cuốn sách này, tôi đã yêu cầu các nhà khoa học trò chuyện bằng từ ngữ dân dã dễ hiểu. Những người nổi tiếng nhất đã làm thế, và tôi tin rằng điều này nên là một yêu cầu cho những cuộc thảo luận thông thường về mối nguy AI. Ở trình độ cao hoặc tổng quan, đối thoại này không phải là lĩnh vực dành riêng cho các chuyên gia kỹ thuật và các diễn giả khoa trương, dù nếu đọc về nó trên web có lẽ bạn sẽ nghĩ vậy. Nó không đòi hỏi một vốn từ vựng đặc biệt nào của “người trong ngành.” Nó đòi hỏi một niềm tin rằng những nguy hiểm và cạm bẫy của AI là chuyện của tất cả chúng ta.

Tôi cũng đã gặp một thiểu số, thậm chí cả những nhà khoa học vốn tin tưởng tuyệt đối rằng hiểm họa AI là một câu chuyện hoang đường đến nỗi họ thậm chí không muốn nói về nó. Nhưng những người chối bỏ cuộc thảo luận này – dù là vì vô cảm, lười biếng, hoặc tin rằng không phải thế – lại không phải là số ít. Hầu như cả xã hội không khảo sát và theo dõi mối nguy này. Điều đó không làm giảm chút nào sự tăng trưởng đều đặn, không thể tránh khỏi của trí thông minh máy tính. Nó cũng không thay đổi được một sự thật, rằng chúng ta sẽ chỉ có một cơ hội để kiến tạo nên một sự cộng sinh tích cực với giống loài mới có trí thông minh vượt trội so với con người.

← Nguyên văn: entrepreneur (tất cả các chú thích đánh dấu sao trong sách là của người dịch).

← Phương pháp giải quyết vấn đề bằng cách đánh giá kinh nghiệm, tìm giải pháp qua thử nghiệm và rút tỉa khuyết điểm.

← Cả ba trường hợp đều dẫn đến kết quả là một cuộc tàn sát.

← Một tổ chức hay một nhóm gồm các chuyên gia nghiên cứu.

← Fuerzas Armadas Revolucionarias de Colombia (Lực lượng vũ trang cách mạng Colombia), một phong trào du kích có từ năm 1964, bị nhiều nước coi là tổ chức khủng bố, bắt đầu giải giáp vào tháng 3/2017 sau ký kết lịch sử với chính phủ vào tháng 11/2016.

← Giáo phái ở Nhật, thành lập năm 1984, bị nhiều nước coi là tổ chức khủng bố.

← Nguyên văn: “stealth companies.”

← Nguyên văn: “stealth mode.”

← Nguyên văn: “Don’t be Evil.”

← George Orwell, nhà văn nổi tiếng người Anh. Ở đây ý nói về khuynh hướng toàn trị của Google.

← Nguyên văn: “moon-shot,”ý nói mang tính cách mạng, thậm chí điên rồ.

← Tương đương 1 triệu gigabyte.

← Một chương trình truyền hình dành cho trẻ em của Mỹ.

← Thiết bị nối giữa máy tính và đường truyền mạng.

← Một think tank đặt tại thành phố Palo Alto, California.

← Một công ty sản xuất siêu máy tính, tồn tại từ 1983–1994.

← Một cộng đồng khoa học và nghệ thuật danh giá ở Mỹ, chỉ những sinh viên xuất sắc nhất mới được mời tham gia.

← Nguyên văn: machine learning.

← Nguyên văn: vulnerabilities.

← Nguyên văn: gigadeath.

← Nguyên văn: “Goldilocks zone,” chỉ một vùng ở khoảng cách nhất định so với các sao chủ — mặt trời khiến nó không quá nóng hoặc quá lạnh, thích hợp cho sự sống phát triển.

← Tương đương -272,8° c.

← Tức đệ quy, trong lập trình nghĩa là một hàm tự gọi lại chính nó. Đây là một trong những kiểu hài hước ngầm của Google.

← Tác giả của loạt truyện về điệp viên 007.

← Estrogen: hormone sinh dục nữ.

← Chuỗi nhà hàng ở Mỹ theo phong cách Úc.

← Ý nói sinh con đẻ cái kiểu sinh học.

← Nguyên văn: Computer Pioneer Award.

← Nguyên văn: deus ex machina, lấy từ một thuật ngữ của kịch Hy Lạp, nghĩa là Chúa đi ra từ một cỗ máy.

← Nữ thần Đất Mẹ trong thần thoại Hy Lạp.

← Ý nói là cùng một mức giá.

← Một trò chơi của phù thủy trong bộ truyện Harry Potter.

← Công ty nổi tiếng với việc tạo ra ngôn ngữ lập trình Java.

← Nguyên văn: extropian, chỉ những người tin một ngày nào đó công nghệ sẽ giúp con người trường sinh bất lão, và mong muốn góp sức vào sự nghiệp đó.

← Nguyên văn: transhuman, một phong trào đa quốc gia nhằm phát triển các công nghệ có khả năng tăng cường các tố chất của con người như trí thông minh, sức khỏe thể chất và tâm lý.

← Chatbot: các AI cấp thấp chuyên về trò chuyện qua câu chữ trên máy tính.

← Tiểu thuyết viễn tưởng kể về một người đàn ông với khuyết tật não và IQ 68, được tiêm thí nghiệm thuốc kích thích não và trở thành cực thông minh. Từ đó thế giới của anh thay đổi, bao gồm cả nhận thức, đạo đức và thái độ với những người xung quanh.

← Hạ sĩ Walter Eugene “Radar” O’Reilly, một nhân vật trong M*A*S*H, một thương hiệu tiểu thuyết, phim điện ảnh và truyền hình của Mỹ.

← Công nghệ chế tạo sợi từ nhựa polyme dùng một thiết bị giống như ống nhả tơ của nhện, nhựa lỏng đi qua ống đó gặp môi trường bên ngoài sẽ hóa sợi.

← Một công ty chuyên cung cấp cơ sở dữ liệu các tài liệu báo chí và luật.

← Các chương trình tìm kiếm khác.

← Hệ điều hành hoạt động dựa vào các câu lệnh, gõ trên bàn phím, thịnh hành vào những năm 1980–1990.

← Intelligent design: một quan điểm tôn giáo giả khoa học, gần với thuyết sáng thế.

← John McCarthy (1927-2011): một trong những cha đẻ của ngành AI.

← Nguyên văn: Mr. Coffee Test.

← Yankee: dân Bắc Mỹ, New England: khu vực đầu tiên người Anh di dân đến, ở cực đông bắc nước Mỹ.

← Nguyên văn: fusiform gyrus.

← Nguyên vân: elevator clause.

← Nguyên văn: the Great Carbon-Based Hope.

← Bút danh của Waker Wellesley Smith (1905-1982): nhà báo thể thao nổi tiếng người Mỹ.

← Trang web tin tức thể thao này đã giải thể vào năm 2015.

← Một bộ phim Mỹ, trong đó nhân vật nam chính bị kẹt trong ngày Chuột chũi (ngày 2 tháng 2), sống trong một vòng lặp thời gian không ngừng cho đến khi hiểu ra mình cần phải làm gì.

← Dịch vụ cung cấp không gian trên máy chủ, có cài các tiện ích Internet như world wide web, FTP, mail…

← Những loại quảng cáo trên net trả tiền người xem theo số lần ấn vào.

← Một dự án đa quốc gia nhằm thiết kế loại máy bay phản lực thế hệ mới, có tên F-35 Lightning II.

← Một loài cá nhỏ sống ở vùng nước ngọt nhiệt đới của Mỹ, thường tấn công và ăn các động vật sống.

← Richard Gary Braudgan (1935-1984): nhà văn Mỹ với lối viết mỉa mai châm biếm.

← Nguyên văn: “tight coupling.”

← Xảy ra vào tháng 10/2001, công ty Enron tuyên bố phá sản sau khi cổ phiếu của họ giảm từ 90 đô-la xuống dưới 1 đô-la.

← Bernie Madoff (1938-): cựu Chủ tịch sàn Nasdaq, là kẻ lừa đảo theo mô hình Ponzi lớn nhất trong lịch sử, ngồi tù từ năm 2009.

← William John Grassie (3/5/1957–): một nhà hoạt động người Mỹ, từng tham gia các phong trào bất tuân dân sự và đòi hỏi loại bỏ vũ khí hạt nhân.

← Là những thuyết cho rằng Chúa cứu thế sẽ quay lại trước thời điểm Một ngàn năm trị vì bình an của con người.

← Tác giả chơi chữ, nguyên văn: It also knows human families have roots and family tree.

← Helen Keller (1880–1968): tiểu thuyết gia, nhà hoạt động chính trị người Mỹ. Bà bị mù và điếc từ năm 2 tuổi.

← Theo như tôi biết, cái tên Đứa trẻ Bận rộn từng được dùng hai lần. Một là trong bức thư năm 1548 từ Công chúa Elizabeth của Anh gửi đến Catherine Parr đang mang bầu. Elizabeth bày tỏ lòng thương cảm với Parr đã trở nên yếu ớt bởi Đứa trẻ Bận rộn đang quẫy đạp trong bụng cô. Cô này sau đó đã chết khi sinh. Hai là trong một câu chuyện hậu trường không chính thức trên mạng về loạt phim Terminator. Đứa trẻ Bận rộn trong trường hợp này là một AI sắp đạt tới sự nhận thức. — TG

← Ý tưởng này đến từ một cuộc nói chuyện riêng với Tiến sĩ Richard Granger, 24/7/2012. — TG

← Cryonics là cách bảo quản các vật thể tại nhiệt độ cực thấp, trong trường hợp này là bảo quản người chết để điều trị và hồi sinh trong tương lai. — TG

← Nhưng gượm đã – đó chẳng phải chính là thứ nhân cách hóa mà Yudkowsky đã vạch ra cho tôi thấy hay sao? Với tư cách con người, những mục tiêu cơ bản của đời người đã trôi giạt đi, theo từng thế hệ, thậm chí là ngay cả trong một cuộc đời. Nhưng còn máy móc? Tôi nghĩ Hughes đã dùng phép so sánh tương đồng về con người theo một cách hợp lý, không nhân cách hóa. Nghĩa là, con người chúng ta là bằng chứng sống về một thứ được gắn kết sâu sắc với các hàm thỏa dụng, ví dụ như động lực sinh con đẻ cái, song chúng ta có thể gạt chúng sang một bên. Nó cũng giống như phép so sánh tương đồng Gandhi của Yudkowsky, thứ cũng không phải là nhân cách hóa. — TG

← Good viết bài luận này dựa trên các cuộc nói chuyện của ông vào năm 1962 và 1963. — TG

← Liệu có phải Good đã đọc bài luận của Vinge, được lấy cảm hứng từ bài viết trước đây của ông, và sau đó đã thay đổi suy nghĩ? Tôi nghĩ chuyện này khó xảy ra. Đến lúc mất, Good đã xuất bản khoảng ba triệu chữ về các học giả khác. Ông là tác giả chịu chú thích nhất cho những gì mình viết mà tôi từng đọc. Và tuy nhiều chú thích là trích từ các bài báo trước đây của chính ông, nhưng tôi tin rằng ông sẽ nhắc đến Vinge khi nói về sự thay đổi trong suy nghĩ của mình, nếu thực sự bài luận của Vinge đã khiến ông thay đổi. Good sẽ cảm thấy vui vì các bài báo “đệ quy” như vậy. — TG

← Rick Granger, nhà khoa học điện toán thần kinh của Đại học Dartmouth cho rằng mỗi neuron trong não được kết nối với hàng chục ngàn neuron khác. Điều này sẽ làm cho não người nhanh hơn nhiều so với ước tính của Kurzweil trong The Age of Spiritual Machines và The Singularity is Near. Nếu nó nhanh hơn nhiều, thì còn lâu mới đạt đến máy tính với tốc độ tương đương. Nhưng khi kể đến LOAR thì cũng không quá xa. — TG

← Ngẫu nhiên, có một số bài viết thú vị trên web về khái niệm Singleton. Được đặt ra bởi nhà đạo đức Nick Bostrom, một “Singleton” là một AI thống trị duy nhất có quyền đưa ra các quyết định tại cấp độ tối cao. Xem Bostrom, Nick, “What is a Singleton?” Sửa lần cuối 2005. — TG

← Tôi không chắc điều này có đúng với AIXI của Marcus Hutter, dù các chuyên gia nói với tôi là có. Nhưng vì AIXI là bất khả điện toán, nên dù sao nó sẽ không bao giờ là một ứng viên cho sự bùng nổ trí thông minh. AIXItl – một gần đúng điện toán của AIXI – thì lại là chuyện khác. Điều này có lẽ cũng không đúng với con đường tải lên ý thức, nếu có ngày chuyện đó xảy ra. — TG

← Cuộc tranh luận giữa phái ý thức và phái bộ não là quá lớn để đưa vào đây. — TG

← [Một số người theo thuyết Singularity muốn đạt tới AGI càng nhanh càng tốt, bởi nó có tiềm năng cứu giúp đau khổ của nhân loại. Đây là quan điểm của Ray Kurzweil. Một số khác cảm thấy việc đạt tới AGI sẽ khiến họ gần hơn với sự bất tử. Các nhà sáng lập của MIRI, bao gồm Eliezer Yudkowsky, hy vọng AGI sẽ đến sau một thời gian dài, bởi khả năng chúng ta tự hủy diệt có thể sẽ giảm thiểu cùng với thời gian, khi đã có những nghiên cứu tốt hơn – có cân nhắc lại điều này không? Đã từng nói]. — TG

← Dù chuyện này sắp thay đổi, bởi các công trình của Richard Granger của Đại học Dartmouth, được nhắc tới trong chương này. — TG

← Như Granger đã viết trong cuốn sách của ông, Big Brains (Những bộ não lớn), người Neanderthal có não lớn hơn chúng ta, và có lẽ thông minh hơn. Tuy nhiên, họ có thực sự thông minh hơn chúng ta hay không thì không có gì chắc chắn. — TG

← Khác với các nhà khoa học đang theo đuổi, Yudkowsky và MIRI không cố gắng chế tạo AGI, dù họ xem xét khía cạnh đạo đức của việc chế tạo và cách kiểm soát nó. Nhà chế tạo AGI Ben Goertzel thường xuyên viết về đạo đức AI, nhưng chuyện đó không giống với tập trung vào các giải pháp khắc phục mối nguy AI. — TG

← Enron và Ken Lay đã đóng góp rất nhiều vào hai chiến dịch tranh cử của George W. Bush cho vị trí thống đốc và chiến dịch tranh cử tổng thống lần đầu. Thậm chí sau cuộc khủng hoảng điện ở California, Bush – khi đó còn chưa lên làm tổng thống – đã gạt bỏ các biện pháp đặt giá trần cho năng lượng tại California. — TG