7

Sự Bùng Nổ Trí Thông Minh

Theo lập trường về hiểm họa diệt vong, một trong những điểm mấu chốt về trí tuệ nhân tạo là một trí tuệ nhân tạo có thể gia tăng trí thông minh của nó cực nhanh. Lý do dễ thấy để nghi ngờ về khả năng này là quá trình tự cải tiến có tính đệ quy. (Good 1965). AI trở nên thông minh hdn, cả trong việc viết các chức năng nhận thức nội tại của AI, cho nên AI sẽ viết lại các chức năng nhận thức đang có để hoạt động tốt hơn. Rổi điều đố lại làm AI thông minh hơn, cả trong việc tự lập trình cho nó, do đó nó lại tạo ra nhiều sự cải tiến hơn… Hàm ý chính trong những lập luận này là khi AI đạt đến một cấp độ nhất định, nó có thể thực hiện một bước nhảy vọt khổng lồ trong trí thông minh.1

Eliezer Yudkowsky

nhà nghiên cứu, Viện Nghiên cứu Trí thông minh Máy tính Có phải ý bạn là: recursion?

kết quả tìm kiếm trên Google khi gõ “recursion”⦾ Cho đến nay, trong cuốn sách này, chúng ta đã xem xét một kịch bản về AI, nó tệ đến mức phải nghiên cứu lại thật cẩn thận. Chúng ta đã khảo sát một ý tưởng đầy hứa hẹn về chuyện xây dựng một AI để tháo gỡ quả bom này – AI thân thiện – và thấy rằng nó chưa hoàn chỉnh. Trên thực tế, nói chung ý tưởng về việc viết mã cho một hệ thống thông minh với những mục tiêu an toàn vĩnh cửu, hoặc có năng lực tạo ra được các mục tiêu an toàn có khả năng sống sót qua một số lớn những vòng lặp tự cải tiến, dường như chỉ là ước muốn viển vông.

Tiếp đến, chúng ta đã khám phá tại sao AI lại nguy hiểm. Chúng ta nhận thấy rằng nhiều động lực của các hệ thống tự nhận thức, tự cải tiến có thể dễ dàng dẫn đến những kết cục tai họa cho con người. Những kết cục đó làm nổi bật mối hiểm họa gần như mang tính nghi thức của tội phạm điều cấm và không làm điều cần thiết trong công cuộc lập trình vốn đầy sai sót của con người.

AGI, một khi đạt được, sẽ nguy hiểm và không thể đoán trước, nhưng trong khoảng thời gian ngắn có lẽ chưa phải là thảm họa. Thậm chí nếu một AGI tự nhân bản và cùng nhau thoát ra, nó sẽ không sở hữu một sự nguy hại tiềm năng hơn so với một nhóm người thông minh. Sự nguy hiểm tiềm ẩn của AGI nằm trong phần cốt lõi của kịch bản Đứa trẻ Bận rộn, khi quá trình tự cải tiến đệ quy tốc độ cao khiến AI từ một trí tuệ nhân tạo phổ quát tự vươn lên thành siêu trí tuệ nhân tạo. Nó thường được gọi là “sự bùng nổ trí thông minh.”

Một hệ thống tự nhận thức, tự cải tiến sẽ tìm cách để đạt được trọn vẹn các mục tiêu của nó và giảm thiểu các lỗ hổng bằng cách tự nâng cấp. Nó sẽ tìm không chỉ các cải tiến nhỏ, mà cả các cải tiến lớn, liên tục trên mọi khía cạnh của những kỹ năng nhận thức, đặc biệt là những kỹ năng liên quan và tạo ra tiến bộ mới trong trí thông minh của nó. Nó sẽ tìm kiếm một trí thông minh tốt hơn con người, hay còn gọi là siêu thông minh. Nếu không có những cách lập trình khéo léo, chúng ta sẽ phải đối diện với nguy cơ đến từ các cỗ máy siêu thông minh.

Theo Steve Omohundro, chúng ta biết rằng AGI sẽ tìm kiếm sự bùng nổ trí thông minh một cách tự nhiên. Nhưng sự bùng nổ trí thông minh chính xác là gì? Những yêu cầu tối thiểu về phần cứng và phần mềm ra sao? Liệu các yếu tố như thiếu hụt nguồn vốn hoặc sự phức tạp của việc đạt được trí thông minh máy tính có chặn đứng quá trình bùng nổ trí thông minh từ trong trứng nước?

Trước khi khảo sát cơ chế của sự bùng nổ trí thông minh, sẽ là quan trọng để biết chính xác thuật ngữ đó nghĩa là gì, và làm thế nào mà ý tưởng về sự bùng nổ trí tuệ nhân tạo lại được nhà toán học I. J. Good đề xuất và phát triển.

Con đường quốc lộ số 81 (I-81) bắt đầu từ bang New York và kết thúc ở Tennessee, vắt ngang qua hầu hết rặng núi Appalachia. Từ vùng giữa bang Virginia kéo xuống phía nam, con đường cao tốc này uốn lượn giữa những dải rừng rậm đồi núi và những đồng cỏ xanh mướt lộng gió, xuyên qua các khung cảnh nguyên sơ lúc ấn tượng lúc mơ hồ của nước Mỹ. Trong rặng Appalachia có dãy Blue Ridge (từ bang Pennsylvania đến Georgia) và dãy Great Smokies (dọc theo biên giới giữa bang Bắc Carolina và Tennessee). Càng đi về phía nam, bạn càng khó bắt sóng điện thoại, số nhà thờ dường như còn nhiều hơn nhà ở, và âm nhạc trong radio chuyển từ nhạc đồng quê sang nhạc phúc âm, rồi sang các bài thuyết giảng về hỏa ngục. Tôi nghe một bài hát khó quên về sự cám dỗ tên là “Long Black Train” (Con tàu dài và đen) của Josh Turner. Tôi nghe một giáo sĩ bắt đầu bài giảng đạo về Abraham và Isaac, chẳng hiểu ông ấy nói gì, và kết thúc với truyện ngụ ngôn về những ổ bánh mì, cá và địa ngục, được thêm vào để tạo hiệu ứng. Tôi đến gần dãy Great Smokies, biên giới Bắc Carolina, ở đó có Đại học Virginia Tech (Virginia Polytechnic Insitute and State University) ở Blacksburg, Virginia. Khẩu hiệu của trường là Invent the Future (Sáng tạo tương lai).

20 năm trước, nếu lái xe trên con đường I-81 gần giống như ngày nay, xe bạn có thể bị một chiếc xe mui trần hiệu Triumph Spitfire mang biển số 007 IJG vượt qua. Cái biển số xe cao ngạo này thuộc về I. J. Good, đến Blacksburg vào năm 1967 với tư cách một giáo sư đầu ngành về thống kê. Con số “007” là để liên tưởng tới Ian Fleming⦾ và nhiệm vụ bí mật của Good trong Thế chiến II với tư cách một người giải mật mã ở Bletchley Park, Anh. Việc phá được hệ thống mật mã mà quân đội Đức Quốc xã dùng để truyền tin đã góp phần không nhỏ vào thất bại của phe Trục. Tại Bletchley Park, Good làm việc cùng với Alan Turing, được coi là cha đẻ của ngành điện toán hiện đại (và cũng là người tạo ra bài kiểm tra Turing mà chúng ta đã đề cập ở Chương 4), ông đã chế tạo, lập trình một trong những chiếc máy tính điện tử đầu tiên.

Tại Blacksburg, Good là một giáo sư nổi tiếng – lương của ông còn cao hơn hiệu trưởng của trường đại học. Là một người cuồng số học, ông nhận thấy mình đã đến Blacksburg vào giờ thứ 7 của ngày thứ 7 của tháng thứ 7 của năm thứ 7 của thập niên thứ 7, và được phân cho căn hộ số 7 của nhà số 7 của dãy nhà Terrace View. Good nói với bạn bè mình rằng Chúa đã quẳng những sự trùng hợp đó vào một kẻ vô thần như ông để cảnh tỉnh ông về sự hiện hữu của người.

“Tôi có một ý tưởng mơ hồ rằng anh càng nghi ngờ sự hiện hữu của Chúa, người sẽ càng cung cấp nhiều sự trùng hợp, bằng cách đó đưa cho anh bằng chứng về đức tin mà không phải ép buộc anh,” Good nói. “Khi tôi tin vào lý thuyết đó, những sự trùng hợp có lẽ sẽ ngừng lại.”2

Tôi đã đến Blacksburg để tìm hiểu về Good, người mới mất gần đây ở tuổi 92, theo lời kể của bạn bè ông. Tôi chủ yếu muốn biết bằng cách nào mà I. J. Good đã nghĩ ra ý tưởng về sự bùng nổ trí thông minh, và liệu nó có khả năng xảy ra không. Sự bùng nổ trí thông minh là mắt xích đầu tiên trong dây chuyền ý tưởng đã làm nên giả thuyết về Singularity.

Không may là trong một tương lai gần, nói đến Virginia Tech cũng có nghĩa là đề cập đến cuộc thảm sát Virginia Tech. Tại đây vào ngày 16/4/2007, Seung-Hui Cho, một sinh viên Anh ngữ đã giết 32 sinh viên và giáo viên và làm bị thương 25 người khác. Đấy là vụ tàn sát bằng súng dã man nhất do chỉ một người thực hiện trong lịch sử Mỹ. Những chi tiết chính của vụ việc là Cho đã bắn chết một nữ sinh tại giảng đường Ambler Johnston thuộc khuôn viên Virginia Tech, rồi giết một nam sinh đang chạy đến giúp. Hai giờ sau, Cho bắt đầu điên cuồng bắn giết những người khác. Trừ hai người đầu tiên, y đã bắn các nạn nhân tại giảng đường Norris của Đại học Virginia Tech. Trước khi bắt đầu bắn, Cho lấy xích khóa trái những cánh cửa gỗ sồi dày của giảng đường để không cho ai trốn thoát.

Khi người bạn lâu năm và là đồng nghiệp ngành thống kê của I. J. Good – Tiến sĩ Golde Holtzman dẫn tôi đi xem văn phòng trước đây của ông ở giảng đường Hutcheson, nằm ở phía bên kia khu vườn tươi đẹp Drillfield (trước vốn là nơi diễu binh), tôi nhận thấy bạn có thể dễ dàng nhìn qua cửa sổ phòng ông sang giảng đường Norris. Nhưng vào thời điểm thảm kịch diễn ra, Holtzman nói với tôi, Good đã nghỉ hưu. Ông không ở trong văn phòng của mình mà đang ở nhà, có lẽ đang tính toán khả năng tồn tại của Chúa.

Theo Tiến sĩ Holtzman, trước khi mất ít lâu. Good đã nâng khả năng đó từ 0 lên 0,1. Ông làm thế, vì với tư cách một nhà thống kê, ông cũng là một người theo trường phái Bayes lâu năm. Được đặt tên theo Thomas Bayes, nhà thống kê học kiêm mục sư thế kỷ 18, ý tưởng chính của thống kê học Bayes là khi tính toán khả năng của một phát biểu nào đó, bạn có thể bắt đầu với niềm tin cá nhân. Sau đó bạn sẽ cập nhật niềm tin đó khi các bằng chứng mới được tìm ra, chúng hỗ trợ hoặc chống lại phát biểu đó.

Nếu Good không tin vào Chúa 100% thì không dữ liệu nào, kể cả sự xuất hiện của Chúa, có thể thay đổi được ý nghĩ của ông. Do đó, để nhất quán với góc nhìn theo thuyết Bayes của ông, Good đã gán một xác suất dương nhỏ cho sự tồn tại của Chúa để chắc chắn rằng ông có thể học hỏi từ những dữ liệu mới nếu nó xuất hiện.

Trong bài báo Speculations Concerning the first Ultraintelligent Machine (Những suy đoán về Cỗ máy siêu thông minh đầu tiên) năm 1965, Good đã trình bày một luận chứng đơn giản và dễ hiểu, luôn được nhắc đến trong các cuộc thảo luận về trí tuệ nhân tạo và Singularity:

Hãy định nghĩa một cỗ máy siêu thông minh là một cỗ máy có khả năng làm những công việc trí óc giỏi hơn bất cứ người nào, dù anh ta có thông minh đến đâu. Vì việc thiết kế máy móc cũng là một trong những công việc đòi hỏi trí óc, một cỗ máy siêu thông minh sẽ thiết kế những cỗ máy thậm chí còn thông minh hơn; và sau đó, không nghi ngờ gì, sẽ là một “sự bùng nổ trí thông minh,” và trí tuệ con người sẽ bị bỏ lại sau rất xa. Do vậy, cỗ máy siêu thông minh đầu tiên sẽ là thứ cuối cùng mà con người cần phát minh ra…3

Singularity có ba định nghĩa hoàn chỉnh — định nghĩa trên đây của Good là cái đầu tiên.4 Good chưa bao giờ sử dụng thuật ngữ “Singularity,” nhưng ông đã khởi đầu nó bằng cách khẳng định điều mà ông nghĩ là một cột mốc có lợi và không thể tránh khỏi trong lịch sử loài người – phát minh ra những máy móc thông minh hơn con người. Diễn giải lại ý của Good, nếu bạn tạo ra một cỗ máy siêu thông minh, nó sẽ giỏi hơn con người trong mọi việc mà chúng ta cần dùng đến bộ não của mình, bao gồm cả chuyện chế tạo những cỗ máy siêu thông minh. Cỗ máy đầu tiên sẽ châm ngòi cho sự bùng nổ trí thông minh, một sự gia tăng trí thông minh siêu tốc khi nó liên tục tự cải tiến, hoặc đơn giản là tạo ra các máy móc thông minh hơn. Cỗ máy, hoặc những cỗ máy này sẽ vượt xa sức mạnh bộ não người. Sau sự bùng nổ trí thông minh, nhân loại sẽ không cần phải phát minh ra bất cứ thứ gì khác – tất cả những gì họ cần, máy móc sẽ làm hộ.

Đoạn văn này của Good đã được trích dẫn một cách thích đáng trong các cuốn sách, bài báo và bài luận về Singularity, về tương lai và mối nguy hiểm của trí tuệ nhân tạo. Nhưng hai ý tưởng quan trọng hầu như luôn-bị-bỏ qua. Thứ nhất là câu dẫn nhập đặc biệt của bài. Nó thế này: “Sự tồn tại của con người phụ thuộc vào những bước đầu tiên trong việc xây dựng một cỗ máy siêu thông minh.” Thứ hai là nửa sau của câu cuối trong đoạn văn trên, vốn rất hay bị bỏ qua. Câu cuối của đoạn văn hay được trích dẫn của Good phải đọc đầy đủ:

Do vậy, cỗ máy siêu thông minh đầu tiên sẽ là thứ cuối cùng mà cọn người cần phát minh ra, với giả thiết rằng cỗ máy đó sẽ đủ ngoan ngoãn để nói cho chúng ta biết làm sao để giữ được nó trong vòng kiểm soát. (in nghiêng là của tôi).

Hai câu trên cho ta biết những điểm quan trọng trong ý kiến của Good. Ông cảm thấy con người chúng ta bị quá nhiều vấn đề tăm tối và phức tạp bao vây – cuộc chạy đua vũ khí hạt nhân, ô nhiễm, chiến tranh… – đến nỗi chúng ta chỉ có thể được cứu nhờ những tư duy siêu việt hơn sẽ đến từ những máy móc siêu thông minh. Câu thứ hai làm ta hiểu cha đẻ của khái niệm sự bùng nổ trí thông minh đã nhận thức một cách sâu sắc rằng việc chế tạo các máy móc siêu thông minh, dù có cần thiết đến đâu đối với sự sống còn của loài người, cũng có thể quay trở lại làm hại chúng ta. Giữ một cỗ máy siêu thông minh trong tầm kiểm soát không phải là chuyện dễ, Good nói với chúng ta như thế. Ông thậm chí không tin rằng chúng ta sẽ biết cách thực hiện điều này – cỗ máy đó sẽ phải tự nói cho ta biết.

Good biết một vài điều về những máy móc cứu thế giới – ông đã góp phần xây dựng và vận hành những máy tính điện tử đầu tiên, được sử dụng tại Bietchley Park hòng đánh bại Đức. Ông cũng biết một số điều về hiểm họa diệt vong – ông là một người Do Thái chiến đấu chống lại Đức Quốc xã, bố ông đã tránh được cuộc tàn sát người Do Thái ở Ba Lan bằng cách nhập cư vào Liên hiệp Anh.

Khi còn là một đứa trẻ, bố của Good, một người Ba Lan và là trí thức tự học, đã học nghề đồng hồ bằng cách nhìn trộm các thợ đồng hồ khác qua ô cửa. Ông mới 17 tuổi khi đến Anh vào năm 1903 với 35 rúp trong túi và một chiếc bánh pho mát lớn. Ở London, ông làm những công việc lặt vặt cho đến khi có thể mở cửa hàng trang sức riêng của mình. Ông phát đạt và kết hôn. Năm 1915, Isidore Jacob Gudak (sau đó đổi tên thành Irving John “Jack” Good) chào đời.5 Tiếp theo là một em trai và một em gái, một vũ nữ tài năng đã mất trong vụ cháy rạp hát. Đau đớn trước cái chết của em gái, Jack Good đã chối bỏ sự tồn tại của Chúa.

Good là một thần đồng toán học, đã có lần đứng trong cũi và hỏi mẹ 1.000 lần của 1.000 bằng bao nhiêu. Trong một lần vật lộn với bệnh bạch hầu, ông đã tự mình khám phá ra số vô tỉ (những số không thể biểu diễn bằng phân số, ví dụ như √2). Trước năm 14 tuổi, ông đã tìm ra phép quy nạp, một phương pháp chứng minh toán học. Kể từ đó các giáo viên toán của ông chỉ để ông tự học với những cuốn sách. Tại Đại học Cambridge, Good đã đoạt mọi giải thưởng về toán trong quá trình học tiến sĩ, và tìm thấy niềm đam mê với môn cờ vua.

Do nhận thấy tài năng chơi cờ của ông, một năm sau khi Thế chiến II nổ ra, đương kim vô địch cờ vua của Vương quốc Anh, Hugh Alexander, đã tuyển Good vào Lều số 18 ở Bietchley Park. Lều 18 là nơi các nhà giải mã làm việc. Họ phá các loại mật mã được phe Trục – Đức, Nhật và Ý – sử dụng để truyền đi các mệnh lệnh quân sự, nhưng họ tập trung nhiều nhất vào Đức. Tàu ngầm U-boat của Đức đang đánh chìm tàu của phe Đồng minh với một tốc độ đáng sợ – chỉ trong nửa đầu năm 1942, U-boat đã đánh đắm khoảng 500 tàu Đồng minh.6 Thủ tướng Anh Winston Churchill lo ngại rằng đảo quốc của ông sẽ bị cô lập đến mức phải đầu hàng.

Những thông điệp của nước Đức được gửi qua sóng radio, và người Anh dò tìm chúng bằng các tháp thu tín hiệu. Ngay từ đầu cuộc chiến, Đức đã mã hóa những thông điệp đó bằng một cỗ máy có tên Enigma. Được phân phối rộng rãi trong lực lượng quân đội Đức, Enigma có kích cỡ và hình dáng giống như một máy chữ thủ công đời cũ. Mỗi phím biểu thị một chữ cái, và được kết nối với một dây kim loại. Sợi dây này sẽ kết nối với một sợi dây khác được gắn với một chữ cái khác. Chữ cái đó sẽ thay thế cho chữ cái đầu tiên để thành chìa khóa. Tất cả các sợi dây được gắn vào những rô-to được thiết kế để một chữ cái có thể kết nối với bất kỳ một chữ cái nào khác trong bảng chữ cái. Máy Enigma cơ bản có ba đĩa quay, và mỗi đĩa sẽ hoán đổi những ký tự đã được những đĩa trước nó hoán đổi. Đổi với bảng chữ cái 26 ký tự, có tất cả 403.291.461.126.605.635. 584.000.000 phép hoán đổi.7 Những đĩa quay, hay những tổ hợp sắp đặt của máy, được thay đổi gần như hằng ngày.

Khi một người Đức gửi những người khác một thông điệp được Enigma mã hóa, người nhận sẽ dùng máy Enigma của họ để giải mã nó, nếu họ biết tổ hợp sắp đặt của người gửi.

May mắn là Bietchley Park cũng có vũ khí riêng của họ – Alan Turing. Trước chiến tranh, Turing đã học toán và mã hóa tại Đại học Cambridge và Princeton. Ông đã tưởng tượng ra một “cỗ máy tự động,” thứ hiện được gọi là máy Turing. Cỗ máy tự động này đã đặt nền móng cho các nguyên tắc đầu tiên của ngành điện toán.

Giả thuyết Church-Turing, tổng hợp các công trình của Turing và giáo sư của ông tại Princeton, nhà toán học Alonso Church, đã thực sự gieo mầm cho khu vườn của ngành trí tuệ nhân tạo. Nó đề xuất rằng bất cứ thứ gì mà một giải thuật, hoặc một chương trình có thể tính toán được, thì một máy Turing cũng có thể tính toán được. Do đó, nếu các quá trình của bộ não có thể biểu thị như một chuỗi tính toán – một giải thuật – thì một máy tính cũng có thể xử lý thông tin y như thế. Nói cách khác, trừ phi có gì đó huyền bí hoặc kỳ diệu trong tư duy của con người, còn không máy tính có thể đạt được tới trí thông minh. Nhiều nhà nghiên cứu AGI đã đặt hy vọng vào giả thuyết Church-Turing.

Chiến tranh đã đem đến cho Turing một khóa học cấp tốc về mọi thứ ông từng nghĩ tới trước cuộc chiến, và nhiều thứ mà ông chưa từng quan tâm đến, như Đức Quốc xã và tàu ngầm. Vào cao điểm chiến tranh, người của Bletchley Park đã giải mã khoảng 4.000 thông điệp mỗi ngày. Phá khóa tất cả chúng bằng tay trở nên bất khả thi. Đấy là một công việc dành cho máy tính. Và Turing đã có một nhận thức quan trọng rằng sẽ dễ hơn nếu ta tìm ra những tổ hợp không đúng, thay vì đi tìm những tổ hợp đúng trên Enigma.

Những nhà giải mã có dữ liệu để tham khảo – những thông điệp dò được và đã được “phá mã” bằng tay, hoặc bằng các máy phá mã điện tử tên là Bombes. Họ gọi các thông điệp đó là “những nụ hôn.” Giống như I. J. Good, Turing là một người sùng bái thuyết Bayes, trong một thời kỳ mà các phương pháp thống kê còn được xem như một phép phù thủy. Cốt lõi của phương pháp này, lý thuyết Bayes, mô tả cách sử dụng dữ liệu để suy ra xác suất của một sự kiện không biết, trong trường hợp này là các tổ hợp của Enigma. Những “nụ hôn” là dữ liệu cho phép các nhà giải mã quyết định các tổ hợp nào sẽ có xác suất không đúng cao, để những nỗ lực giải mã có thể tập trung tốt hơn vào các mảng khác. Tất nhiên, các tổ hợp được thay đổi hằng ngày, nên công việc tại Bletchley Park là một cuộc chạy đua không ngừng nghỉ.

Turing và đồng nghiệp thiết kế một chuỗi các máy điện tử dùng để đánh giá và loại bỏ các tổ hợp có thể của Enigma.8 Những máy tính đầu tiên này đạt đến trình độ cao nhất trong một loạt cỗ máy cùng tên “Người khổng lồ.” Người khổng lồ có thể đọc 5.000 ký tự trong một giây từ một băng giấy chạy qua nó với tốc độ 43 km/h. Nó chứa 1.500 ống chân không, choán đầy một cán phòng. Một trong những người sử dụng chính, đóng góp phân nửa lý thuyết đằng sau Người khổng lồ là nhà thống kê chính của Turing trong hầu hết cuộc chiến: Irving John Good.

Những người hùng tại Bletchley Park có lẽ đã rút ngắn được Thế chiến II từ hai đến bốn năm, cứu sống vô số người.9 Nhưng không có cuộc diễu hành nào cho những chiến binh thầm lặng ấy. Churchill ra lệnh đập nát tất cả các máy giải mã tại Bletchley thành những cục không lớn hơn một nắm tay, để sức mạnh vô song của chúng không bị lợi dụng chống lại Anh. Những nhà giải mã phải thề giữ kín mọi chuyện trong 30 năm. Turing và Good được tuyển vào làm việc tại Đại học Manchester, nơi mà lãnh đạo trước đây của họ, Max Newman, có ý định phát triển một máy tính cho mục đích thông thường. Turing đang thiết kế một máy tính tại Phòng nghiên cứu Vật lý Quốc gia thì cuộc sống của ông bị xáo trộn một cách đột ngột. Một người đàn ông có quan hệ đồng tính với ông đã đột nhập vào nhà ông và ăn cắp. Khi thông báo vụ việc này với cảnh sát thì ông cũng thừa nhận mình là người đồng tính. Ông bị buộc tội hủ hóa và bị tước bỏ quyền truy cập vào các tài liệu mật.

Tại Bletchley Park, Turing và Good đã thảo luận những ý tưởng về tương lai như máy tính, máy móc thông minh và máy chơi cờ “tự động.” Turing và Good trở nên thân thiết qua những ván cờ vua mà người thắng là Good. Đổi lại, Turing dạy ông chơi cờ vây, một trò chơi chiến thuật của châu Á, và người thắng cũng là Good.10 Là một vận động viên chạy việt dã tầm cỡ quốc tế, Turing đã lập ra một kiểu chơi cờ mới khiến hai người ngang sức hơn. Cứ sau mỗi nước đi người chơi phải chạy quanh vườn hai vòng. Nếu sau hai vòng về lại bàn cờ mà đối phương vẫn chưa đi nước của mình thì người chạy sẽ được đi hai nước liên tiếp.

Bản án về tội hủ hóa của Turing vào năm 1952 làm Good ngạc nhiên, ông không biết Turing là người đồng tính. Turing bị buộc phải chọn giữa nhà tù hoặc tiêm hormone. Ông chọn cái sau, và bị tiêm định kỳ estrogen⦾. Năm 1954, ông ăn một quả táo nhúng trong chất độc cyanide. Có lời đồn vô căn cứ nhưng khá thú vị rằng Apple đã nghĩ ra logo của mình từ bi kịch này.

Sau khi kỳ hạn giữ bí mật chấm dứt, Good là một trong những người đầu tiên lên tiếng chỉ trích cách đối xử của chính phủ đối với người hùng chiến tranh và cũng là bạn hữu của ông.

“Tôi sẽ không nói rằng điều Turing đã làm khiến chúng ta giành chiến thắng,” Good nói. “Nhưng tôi dám chắc rằng chúng ta có lẽ đã thất bại nếu không có anh ấy.”11 Năm 1967, Good từ bỏ vị trí tại Đại học Oxford để chuyển sang làm việc tại Đại học Virginia Tech ở Blacksburg, Virginia. Lúc đó ông 52 tuổi. Trong quãng đời còn lại của mình, ông chỉ quay lại Anh đúng một lần.

Đi cùng ông trong chuyến đi năm 1983 là một trợ lý 25 tuổi, đẹp và cao, một cô gái Tennessee tóc vàng tên là Leslie Pendleton. Good gặp Pendleton năm 1980 sau khi ông đã đổi đến 10 thư ký trong 13 năm. Tốt nghiệp tại chính trường Virginia Tech, Pendleton đã không khuất phục trước tính cầu toàn khó chịu của Good, trụ lại được ở nơi mà những người khác từ bỏ. Sau này, bà kể với tôi về lần đầu tiên đi gửi một trong những bài báo của ông cho một tạp chí toán học, “Ông ấy giám sát cách tôi bỏ tài liệu và thư vào phong bì. Ông ấy giám sát cách tôi dán phong bì, ông ấy không thích dùng nước bọt và bắt tôi dùng một miếng xốp thấm nước. Ông ấy nhìn tôi dán tem. Ông ấy ở đó chờ tôi trở lại từ bưu điện để chắc chắn rằng việc gửi thư đã xong xuôi, cứ như tôi có thể bị bắt cóc hoặc sao đó. Ông ấy là một người đàn ông nhỏ thó kỳ quặc.”

Good từng muốn cưới Pendleton. Tuy nhiên, ngay bước đầu tiên là sự khác biệt tuổi tác đến 40 năm, bà đã thấy chẳng thể vượt qua. Song giữa người đàn ông Anh lập dị và người đẹp Tennesse đã nảy sinh một mối gắn kết mà đến tận bây giờ bà vẫn thấy khó mô tả. Trong 30 năm, bà đi cùng ông trong các kỳ nghỉ, quản lý mọi giấy tờ tài liệu của ông, và trợ giúp công việc cho đến khi ông nghỉ hưu, rồi già yếu. Khi chúng tôi gặp nhau, bà đưa tôi đi thăm ngôi nhà của ông ở Blacksburg, một ngôi nhà gạch đơn độc nhìn ra tuyến đường U.S. 460, vốn chỉ là một con đường đồng quê hai làn xe khi Good chuyển tới đây.

Leslie Pendleton đẹp như một pho tượng, giờ đây khoảng 55 tuổi, là tiến sĩ và mẹ của hai đứa con đã lớn. Bà là giáo sư và người quản lý của Virginia Tech, phụ trách các thời khóa biểu, lớp học, và châm biếm các giáo sư, một việc mà bà đã được luyện tập nhiều năm. Ngay cả khi đã cưới một người tầm tuổi bà và có gia đình riêng, nhưng nhiều người trong cộng đồng nơi đây vẫn thấy khó hiểu về mối quan hệ của bà với Good. Họ cuối cùng đã nhận được câu trả lời vào năm 2009 tại đám tang của ông, qua bài điếu văn của Pendleton. Không, họ chưa bao giờ là những người tình, bà nói, nhưng đúng là họ đã dành cả cuộc đời cho nhau. Good không có được một mối tình với Pendleton, nhưng ông đã tìm thấy một người tri kỷ trong suốt 30 năm, một người giám hộ tận tụy đối với những di sản và ký ức về ông.

Đứng trong sân nhà Good, nghe tiếng côn trùng vo ve trên đại lộ 460, tôi hỏi Pendleton, liệu nhà giải mã có bao giờ thảo luận về sự bùng nổ trí thông minh, và liệu máy tính có thể cứu thế giới lần nữa không, như nó đã làm khi ông còn trẻ. Bà suy nghĩ một lát, cố gắng nhớ lại một ký ức đã xa. Sau đó bà trả lời, khá bất ngờ, rằng Good đã thay đổi ý kiến của mình về sự bùng nổ trí thông minh. Bà phải xem lại những tài liệu của ông trước khi có thể kể tiếp cho tôi.

Tối hôm đó, tại một tiệm Outback Steakhouse⦾ nơi Good và bạn ông là Golde Holtzman thường đứng với nhau vào tối thứ Bảy, Holtzman kể với tôi rằng có ba thứ làm Good trăn trở – Thế chiến II, cuộc thảm sát người Do Thái, và số phận cay đắng của Turing. Điều này khiến tâm trí tôi kết nối giữa công việc của Good trong chiến tranh với những gì ông viết trong Speculations Concerning the First Ultraintelligent Machine. Good và đồng nghiệp của ông từng đối đầu với hiểm họa sống còn, và họ đã góp phần đánh bại nó nhờ các máy móc điện toán. Nếu một cỗ máy có thể cứu thế giới vào những năm 1940, thì có lẽ một cỗ máy siêu thông minh có thể giải quyết những vấn đề của nhân loại vào những năm 1960. Và nếu máy móc có thể học, trí thông minh của nó sẽ bùng nổ. Nhân loại sẽ phải thích nghi với việc chia sẻ hành tinh này với các máy móc siêu thông minh. Trong Speculations ông viết:

Máy móc sẽ tạo ra các vấn đề xã hội, nhưng chúng cũng có khả năng giải quyết những vấn đề đó, cộng thêm những vấn đề do các loại vi khuẩn và con người tạo ra. Máy móc ấy sẽ khiến người ta sợ hãi và kính nể, có lẽ thậm chí yêu quý. Nhận định này có vẻ hoang đường với một số người đọc, nhưng với người viết, chúng rất thật và cấp bách, đáng để nhấn mạnh rằng đây không phải chuyện khoa học viễn tưởng.

Không có sợi dây liên hệ trực tiếp nào về mặt khái niệm giữa Bletchley Park và sự bùng nổ trí thông minh, nhưng gián tiếp thì có, với nhiều tác động. Trong một cuộc phỏng vấn năm 1996 với nhà thống kê học và là học trò cũ David L. Banks, Good tiết lộ rằng ông đã muốn viết tiểu luận này sau khi đào sâu nghiên cứu về các mạng neuron nhân tạo. Còn được gọi là các ANN, chúng là những mô hình điện toán mô phỏng hoạt động của các mạng neuron ở con người. Khi bị kích thích, một neuron trong não sẽ bắn tín hiệu đến các neuron khác. Tín hiệu đó sẽ mã hóa một ký ức hay kích hoạt một hành động, hoặc cả hai. Good đã đọc một cuốn sách do nhà tâm lý học Donald Hebb viết năm 1949, trong đó đề xuất rằng hành vi của neuron có thể được mô phỏng bằng toán học.

Một “neuron” điện toán sẽ được kết nối với các neuron điện toán khác. Mỗi kết nối sẽ có một chỉ số “sức nặng,” tùy theo độ mạnh của nó. Quá trình máy học sẽ xuất hiện khi hai neuron được kích hoạt cùng lúc, tăng cường “sức nặng” của kết nối giữa chúng. “Các tế bào cùng phát tín hiệu, được kết nối cùng nhau” trở thành khẩu hiệu cho lý thuyết của Hebb. Năm 1957, nhà tâm lý học Frank Rosenblatt của Học viện Công nghệ Massachusetts (MIT) đã tạo ra một mạng neuron dựa theo công trình của Hebb, được ông gọi là “Perceptron.” Được xây dựng trên một máy tính IBM có kích cỡ một căn phòng, Perceptron “nhìn thấy” và học các mẫu hình ảnh đơn giản. Năm I960, IBM yêu cầu I. J. Good đánh giá máy Perceptron.12 “Tôi nghĩ rằng mạng neuron, với cách hoạt động siêu song song của nó, sẽ có thể dẫn đến các máy móc thông minh như con đường lập trình,” Good nói.13 Những cuộc nói chuyện đầu tiên, là cơ sở để Good phát triển thành bài luận Speculations Concerning the First Ultraintelligent Machine, đã được trình bày sau đó hai năm.⦾ Khái niệm sự bùng nổ trí thông minh ra đời.

Good đã nhìn xa hơn cả những gì ông biết về ANN. Ngày nay, các mạng neuron nhân tạo là ứng viên nặng ký của trí tuệ nhân tạo, được ứng dụng từ công nghệ nhận dạng giọng nói và chữ viết tay cho đến việc xây dựng mô hình tài chính, phê chuẩn tín dụng và điều khiển robot. ANN hoạt động cực tốt trong những việc đòi hỏi kỹ năng nhận dạng nhanh chóng các mẫu ở trình độ cao. Hầu hết đều bao gồm việc “huấn luyện” mạng neuron bằng một lượng lớn dữ liệu (còn gọi là bộ dữ liệu tập huấn) để mạng này có thể “học” các mẫu. Sau đó nó có thể nhận ra các mẫu tương tự trong dữ liệu mới. Những nhà phân tích có thể hỏi, dựa theo dữ liệu của tháng trước, thị trường chứng khoán sẽ thế nào trong tuần tới? Hoặc, khả năng để một người không trả được nợ trên khoản thế chấp ra sao, dựa theo lịch sử về dữ liệu thu nhập, tiêu dùng, tín dụng trong ba năm của người đó?

Giống như các giải thuật di truyền, ANN là các hệ thống “hộp đen.” Tức là các dữ liệu đầu vào – sức nặng của các kết nối và sự kích hoạt các neuron – có tính minh bạch. Và các dữ liệu đầu ra cũng hợp lý. Nhưng điều gì đã xảy ra trong đoạn giữa? Không ai biết cả. Các dữ liệu đầu ra của công cụ trí tuệ nhân tạo dạng “hộp đen” không bao giờ có thể tiên đoán được, nên chúng không bao giờ thực sự “an toàn.”

Nhưng nhiều khả năng chúng sẽ đóng một vai trò lớn trong các hệ thống AGI. Ngày nay, nhiều nhà nghiên cứu tin rằng nhận dạng mẫu — thứ mà máy Perceptron của Rosenblatt hướng tới – là công cụ chính làm nên trí thông minh của bộ não chúng ta. Jeff Hawkins, người phát minh ra hai loại thiết bị hỗ trợ cầm tay Palm Pilot và Handspring Treo, đã tiên phong sử dụng ANN trong nhận dạng chữ viết tay. Công ty Numenta của ông có mục tiêu đạt đến AGI bằng công nghệ nhận dạng mẫu. Dileep George, cựu Giám đốc công nghệ của Numenta, giờ là chủ của Vicarious Systems, một công ty với tham vọng được chỉ rõ trên khẩu hiệu: Chúng tôi đang xây dựng phần mềm biết nghĩ và học như con người.

Nhà khoa học thần kinh, nhà khoa học nhận thức, kiêm kỹ sư sinh dược Steven Grossberg đã đi tới một mô hình dựa trên ANN, được một số người trong ngành tin rằng nó thực sự có thể dẫn tới AGI, và có lẽ tới thứ “cực thông minh” mà tiềm năng của nó đã được Good nhận ra trong các mạng neuron. Nói rộng ra, trước tiên Grossberg xác định vai trò nhận thức của các vùng khác nhau trên vỏ não. Đó là nơi thông tin được xử lý, và các ý nghĩ khởi phát. Sau đó ông tạo ra các ANN mô phỏng từng vùng. Ông đã có những thành tựu trong việc xử lý chuyển động và nói chuyện, phát hiện định dạng và những nhiệm vụ phức tạp khác. Giờ đây ông đang khám phá cách kết nối điện toán các module đó với nhau.15

Máy học có lẽ là một khái niệm mới đối với Good, nhưng chắc ông đã gặp các giải thuật kiểu máy học khi thẩm định máy Perceptron cho IBM. Khi đó, khả năng đáng sợ của việc máy có thể học như người đã khiến Good nghĩ đến những hậu quả mà những người khác chưa từng tưởng tượng ra. Nếu một cỗ máy có thể tự làm nó thông minh hơn, thì cái máy đã thông minh hơn đó thậm chí sẽ còn giỏi hơn trong việc tự làm nó thông minh, và cứ thế.

Trong những năm 1960 dữ dội ấy, cho đến khi sáng tạo ra khái niệm sự bùng nổ trí thông minh, có lẽ ông đã nghĩ đến những loại vấn đề mà một cỗ máy thông minh có thể giải quyết. Không còn các tàu ngầm U-boat của Đức để đánh chìm, nhưng vẫn còn đó đối thủ Liên Xô, cuộc khủng hoảng tên lửa Cuba, vụ ám sát Tổng thống Kennedy, cuộc chiến ủy nhiệm giữa Mỹ và Trung Quốc ở Đông Nam Á. Con người đã ở trên bờ vực của sự diệt vong – và dường như lại cần đến một Người khổng lồ mới. Trong Speculations, Good viết:

[Nhà tiên phong trong lĩnh vực máy tính] B. V. Bowden phát biểu rằng… không có lý do gì để xây dựng một cỗ máy với trí thông minh của con người, vì sẽ dễ hơn nhiều nếu ta dùng cách thông thường…”⦾ Câu này chứng tỏ một người rất thông minh cũng có thể bỏ qua cái gọi là “sự bùng nổ trí thông minh.” Về mặt kinh tế, đúng là sẽ lãng phí khi chế tạo một cỗ máy chỉ có khả năng làm những việc thông minh thông thường. Nhưng nếu điều này có thể thực hiện được, thì tương đối chắc chắn rằng nếu ta bỏ tiền ra gấp đôi, cái ta thu được sẽ là một cỗ máy cực thông minh.16

Vậy là thêm một ít đô-la nữa bạn sẽ có ASI, siêu trí tuệ nhân tạo, Good nói. Nhưng hãy coi chừng với những biến động lớn trong xã hội, khi ta chia sẻ hành tinh này với thứ thông minh hơn con người.

Vào năm 1962, trước khi viết Speculations Concerning the First Ultraintelligent Machine, Good là chủ biên một cuốn sách tên là The Scientist Speculates (Những suy đoán của các nhà khoa học). Ông viết một chương với nhan đề “The Social Implications of Artificial Intelligence” (Những ảnh hưởng xã hội của trí tuệ nhân tạo), một kiểu chuẩn bị cho ý tưởng về siêu trí tuệ nhân tạo mà ông đang phát triển. Giống như Steve Omohundro sẽ tranh luận vào 50 năm sau, ông lưu ý rằng trong những vấn đề mà máy móc thông minh sẽ phải giải quyết, có những thứ được tạo ra bởi chính sự xuất hiện gây chia rẽ của chúng trên Trái đất.

Những máy móc như thế… thậm chí có thể đưa ra những lời khuyên hữu ích về chính trị và kinh tế; và chúng sẽ cần phải làm như vậy để bù đắp lại những vấn đề mà bản thân sự tồn tại của chúng gây ra. Sẽ có những vấn đề về quá tải dân số do bệnh tật sẽ bị đẩy lùi, và về thất nghiệp bởi các robot cấp thấp do máy móc thông minh chế tạo ra sẽ có hiệu suất cao hơn con người.17

Nhưng, như tôi đã sớm biết được, vào cuối đời Good đã thay đổi quan niệm một cách đáng ngạc nhiên. Tôi đã luôn gộp ông vào nhóm những người lạc quan như Ray Kurzweil, vì ông đã chứng kiến máy móc “cứu” thế giới trước đây, và bài tiểu luận của ông đã gắn sự sống còn của nhân loại với công cuộc chế tạo ra máy tính siêu thông minh. Nhưng bạn ông, Leslie Pendleton, đã nói bóng gió đến một sự thay đổi. Bà cần thời gian để nhớ lại lúc đó, và đến ngày cuối của tôi ở Blacksburg, bà đã nhớ ra.

Năm 1998, Good được trao Giải thưởng Nhà tiên phong Máy tính⦾ của Cộng đồng Máy tính IEEE (Institue of Electrical and Electronics Engineers: Viện Kỹ sư điện và điện tử). Ông đã 82 tuổi. Ông được yêu cầu cung cấp một tiểu sử, như một phần của bài phát biểu nhận giải. Ông đã gửi nó, nhưng cũng như bất kỳ ai khác, ông không đọc nó trong lễ nhận giải. Có lẽ chỉ mình Pendleton biết nó tồn tại. Bà đã thêm một bản sao của nó vào cùng vài tài liệu khác mà tôi yêu cầu, và đưa cho tôi trước khi tôi rời Blacksburg.

Trước khi đi vào quốc lộ I-81 và hướng về phía Bắc, tôi đã đọc nó trên xe trong bãi đỗ thuộc trung tâm điện toán đám mây của công ty Rackspace. Cũng như Amazon và Google, Rackspace (khẩu hiệu công ty: Fanatical Support, nghĩa là hỗ trợ cuồng nhiệt) cung cấp sức mạnh điện toán cực lớn với giá rẻ bằng cách cho thuê thời gian sử dụng hàng chục ngàn bộ vi xử lý và hàng triệu gigabyte dung lượng. Tất nhiên là Đại học Virginia Tech với khẩu hiệu “Sáng tạo tương lai” sẽ có quyền tiếp cận một cơ sở của Rackspace, và tôi thì muốn tham quan, tuy nhiên lúc đó nó đang đóng cửa. Chỉ sau đó tôi mới thấy có vẻ kỳ lạ khi chỉ cách vài chục mét kể từ chỗ tôi ngồi đọc bản tiểu sử của Good, hàng chục ngàn bộ vi xử lý được làm mát đang chạy hết công suất, giải quyết các vấn đề của thế giới.

Trong tiểu sử, với cách viết láu lỉnh ở ngôi thứ ba, Good tổng kết các cột mốc đời mình, bao gồm cả những điều chưa từng được kể về công việc của ông tại Bletchley Park cùng với Turing. Nhưng dưới đây là những gì ông viết vào năm 1998 về siêu trí tuệ nhân tạo đầu tiên, và về sự quay ngoắt thái độ của ông trong những năm tháng cuối đời:

[Bài viết] “Speculations Concerning the First Ultraintelligent Machine” (1965)… bắt đầu: “Sự tồn tại của con người phụ thuộc vào những bước đầu tiên trong việc xây dựng một cỗ máy cực trí thông minh.” Đó là những câu chữ của ông [Good] trong Chiến tranh Lạnh, và bây giờ ông ngờ rằng từ “tồn tại” nên được thay bằng “tuyệt chủng.” Ông nghĩ rằng, do cuộc cạnh tranh quốc tế, chúng ta không thể ngăn cản máy móc đoạt lấy quyền lực. Ông nghĩ rằng chúng ta là những con chuột nhắt. Ông cũng từng nói: “Có lẽ Con người sẽ tạo nên một vị chúa đến từ cỗ máy⦾, theo hình dáng của mình.”18

Tôi đọc những dòng đó và nhìn trân trân đầy ngớ ngẩn vào tòa nhà Rackspace. Đến cuối đời, Good đã xét lại không chỉ niềm tin của ông về khả năng tồn tại của Chúa. Tôi đã tìm thấy thông điệp trong chai, một chú thích đã thay đổi tất cả. Giờ đây, Good và tôi đã có một điểm chung quan trọng. Chúng tôi đều tin rằng sự bùng nổ trí thông minh sẽ không có một kết cục tốt.