8

Điểm Không Thể Quay Đầu

Nhưng nếu Singularity – điểm kỳ dị của phát triển công nghệ có thể xảy ra, nó sẽ xảy ra. Thậm chí nếu tất cả các chính phủ trên thế giới nhận thức rõ “mối nguy” này và cực kỳ lo sợ về nó, thì tiến trình tới mục tiêu vẫn sẽ tiếp tục. Trên thực tế, lợi thế cạnh tranh – trong kinh tế, quân sự, kể cả nghệ thuật – của mọi tiến bộ trong tự động hóa đều hấp dẫn đến nỗi có đưa ra các đạo luật hoặc thuế khóa hòng ngăn cản chúng cũng chỉ đơn thuần là đưa cờ cho người khác phất.1

Vernor Vinge

The Coming Technological Singularity

(Điểm kỳ dị công nghệ sắp tới), 1993 Đoạn trích trên nghe giống như một phiên bản được cắt riêng ra từ tiểu sử của I. J. Good, phải vậy không? Giống như Good, Giáo sư toán học Vernor Vinge, tác giả truyện khoa học viễn tưởng hai lần đoạt Giải thưởng Hugo, đã mượn ý văn của Shakespeare để ám chỉ chuyện giống như lũ chuột nhắt, thói chuộng danh lợi của con người sẽ đút đầu họ vào nòng đại bác. Vinge nói với tôi, ông chưa bao giờ đọc các đoạn tiểu sử tự viết của Good, hoặc biết đến chuyện ông ấy đã thay đổi quan niệm của mình về sự bùng nổ trí thông minh vào những năm cuối đời. Có lẽ chỉ có Good và Leslie Pendleton là biết chuyện đó.⦾

Vernor Vinge là người đầu tiên chính thức dùng thuật ngữ Singularity để mô tả tương lai công nghệ – năm 1993, ông đã viết nó ra trong một bài gửi cho NASA có tên là “The Coming Technological Singularity” (Điểm kỳ dị công nghệ sắp tới). Nhà toán học Stanislaw Ulam thông báo rằng bà và học giả John von Neumann đã sử dụng “Singularity” trong một cuộc trò chuyện về sự thay đổi công nghệ từ 35 năm trước, năm 1958. Nhưng việc đặt ra từ mới này của Vinge là công khai, có chủ đích, và cổ vũ Ray Kurzweil bắt đầu dùng thuật ngữ này mà hiện nay đã trở thành phong trào.

Với uy tín như vậy, tại sao Vinge không giảng dạy và thuyết trình tại các hội thảo với tư cách chuyên gia hàng đầu về Singularity?

Thực ra Singularity có nhiều nghĩa, và cách dùng của Vinge chính xác hơn những người khác. Để định nghĩa Singularity, ông đã làm phép so sánh giữa nó với một điểm trên quỹ đạo của lỗ đen, nơi mà đi quá nó thì đến ánh sáng cũng không thoát ra nổi. Bạn không thể thấy những gì xảy ra bên kia điểm đó, được gọi là chân trời sự kiện. Tương tự, khi chúng ta chia sẻ hành tinh này với các thực thể thông minh hơn, mọi sự đánh cược đều vô nghĩa – chúng ta không thể đoán được điều gì sẽ xảy ra. Bạn cần phải thông minh ít nhất bằng chúng thì mới hiểu được.

Vậy, nếu bạn không có khái niệm rõ ràng gì về những thứ sẽ xảy ra trong tương lai, làm sao bạn có thể viết về nó? Vinge không viết truyện khoa học giả tưởng, ông có tiếng là một tác giả truyện khoa học viễn tưởng, sử dụng các kiến thức khoa học có thật trong các tác phẩm của ông. Singularity đã khiến ông phải câm lặng.

Đây là một vấn đề mà chúng ta luôn gặp khi nghĩ đến sự ra đời của trí thông minh vượt cấp độ con người. Khi điều đó xảy ra, lịch sử nhân loại sẽ chạm đến một thứ giống như điểm kỳ dị – một nơi mà các phép ngoại suy không còn ý nghĩa và những hình mẫu mới cần được áp dụng – và thế giới này sẽ vượt quá tầm hiểu biết của chúng ta.3

Như Vinge đã nói, khi ông bắt đầu viết truyện khoa học viễn tưởng vào những năm 1960, những thế giới mà ông tưởng tượng ra trên cơ sở khoa học nằm trong khoảng 40 đến 50 năm sau. Nhưng đến những năm 1990, tương lai chạy về phía ông, và tiến bộ công nghệ dường như đang tăng tốc. Ông không còn có thể tiên liệu tương lai sẽ mang đến những gì, vì ông cho rằng trí thông minh vượt cấp độ con người sẽ sớm xuất hiện. Trí thông minh đó, chứ không phải của con người, sẽ là thứ quyết định tốc độ phát triển công nghệ. Ông không thể viết về nó, và những người khác cũng vậy.

Qua những năm 60, 70 rồi 80, ý tưởng về tận thế được chấp nhận rộng rãi. Có lẽ các tác gia khoa học viễn tưởng là những người đầu tiên cảm thấy điều này một cách rõ rệt nhất. Nói cho cùng thì các tác gia khoa học viễn tưởng “chân chính” này là những người cố gắng viết những câu chuyện cụ thể về những gì mà công nghệ sẽ mang đến cho chúng ta. Các tác gia này ngày càng cảm thấy có một bức tường mờ đục chắn ngang tương lai.4

Nhà nghiên cứu AI Ben Goertzel đã nói với tôi: “Vernor Vinge nhìn thấy tính bất khả tri cố hữu của nó rất rõ ràng khi ông đưa ra khái niệm điểm kỳ dị công nghệ. Vì thế mà ông không thuyết giảng vòng vo về nó, bởi ông không biết phải nói gì. Ông có thể nói gì được? ‘Vâng, tôi nghĩ rằng chúng ta sẽ tạo ra các công nghệ có khả năng vượt trội hơn con người rất nhiều, và sau đó ai mà biết được chuyện gì sẽ xảy ra?’ ”

Nhưng những phát minh ra lửa, nông nghiệp, in ấn và điện thì sao? Nhiều “Singularity” công nghệ phải chăng đã diễn ra rồi? Sự thay đổi lớn về công nghệ không phải là điều gì mới, không ai cảm thấy cần phải nghĩ ra một cái tên mỹ miều cho chúng. Bà của tôi sinh ra trước khi xe ô tô được sử dụng rộng rãi, và bà đã chứng kiến Neil Armstrong bước đi trên Mặt trâng. Bà đặt tên cho sự thay đổi ấy là thế kỷ 20. Vậy có gì đặc biệt đến thế trong sự chuyển tiếp mà Vinge đề cập?

“Yếu tố bí mật ở đây là trí thông minh,” Vinge nói với tôi. Ông có giọng nói liến thoắng với âm vực tenor nam cao, khiến người ta buồn cười. “Trí tuệ là thứ tạo nên sự khác biệt, và đặc trưng để phân biệt là những sinh vật ở trước thời điểm đó sẽ chẳng thể hiểu được. Chúng ta đang ở tình thế là trong khoảng thời gian rất ngắn, chỉ vài thập niên, chúng ta sẽ thấy những sự biến đổi tương đương với những tiến hóa sinh học lớn.”

Trong câu trên có hai ý quan trọng. Thứ nhất, Singularity công nghệ sẽ mang tới một sự thay đổi trong bản thân trí thông minh, siêu sức mạnh duy nhất của con người, thứ đã khởi tạo nên công nghệ. Đó là lý do vì sao nó khác với bất cứ cuộc cách mạng nào. Thứ hai, sự tiến hóa sinh học mà Vinge nói đến là khi loài người chiếm lĩnh hành tinh này vào 200.000 năm trước. Vì họ thông minh hơn muôn loài, nên Homo sapiens, hay “người tinh khôn,” bắt đầu thống trị hành tinh. Tương tự, những ý thức một ngàn hoặc một triệu lần thông minh hơn con người sẽ thay đổi cuộc chơi này mãi mãi. Và điều gì sẽ xảy ra với chúng ta?

Câu hỏi này khiến Vinge cười khùng khục: “Nếu tôi bị hỏi dồn về những thứ xảy ra sau Singularity, cách thoái thác tôi hay dùng nhất là nói bạn nghĩ tại sao tôi lại đặt tên nó là điểm kỳ dị?”

Nhưng Vinge đã kết luận được một điều về cái tương lai bất định ấy – Singularity là đáng sợ, và có thể dẫn tới sự diệt vong của chúng ta. Trong bài phát biểu vào năm 1993, ông đã trích dẫn đoạn nói về sự bùng nổ trí thông minh trong bài báo của Good năm 1967, chỉ ra rằng nhà thống kê học nổi tiếng này phân tích còn chưa đủ sâu:

Good đã nắm bắt được về bản chất của việc AI chạy trốn, nhưng không khảo sát những hệ quả khủng khiếp nhất của nó. Bất cứ cỗ máy thông minh nào kiểu như ông đã mô tả sẽ không phải là “công cụ” của con người – chẳng khác gì con người không phải là công cụ của loài thỏ, chim cổ đỏ hoặc tinh tinh.5

Đây là một sự so sánh đúng đắn – thỏ đối với người cũng như người đối với máy móc siêu thông minh. Chúng ta đối xử với loài thỏ thế nào? Như một thứ động vật phá hoại, thú cưng, hoặc bữa tối. Các ASI lúc đầu sẽ là công cụ của chúng ta – giống các tiền bối của chúng hiện tại như Google, Siri và Watson. Và Vinge đề xuất thêm rằng có nhiều cách khiến Singularity xảy ra bên cạnh trí thông minh máy tính đơn thuần. Chúng bao gồm trí thông minh lớn lên từ Internet, từ Internet cộng thêm những người dùng (một Gaia⦾ kỹ thuật số), từ giao diện người-máy, và từ khoa học sinh học (tăng cường trí thông minh của các thế hệ tương lai qua việc điều khiển gen).6

Ở ba trong số những cách trên, con người tham dự xuyên suốt quá trình phát triển công nghệ, có lẽ lèo lái một quá trình vươn lên trong trí thông minh một cách tuần tự và kiểm soát được, chứ không phải là một vụ bùng nổ. Vinge nói, nghĩa là có thể những trở ngại to lớn nhất của loài người – nạn đói, bệnh tật, kể cả cái chết – sẽ bị chinh phục. Đó là một viễn cảnh được Ray Kurzweil tán thành, được “những người theo thuyết Singularity” truyền bá. Những người theo thuyết Singularity là những người tiên đoán rằng sẽ chỉ có hầu như toàn điều tốt đẹp trong cái tương lai được tăng tốc sắp tới. Singularity của họ nghe có vẻ quá lạc quan đối với Vinge.

“Chúng ta đang chơi một trò chơi cực kỳ nguy hiểm, và cái mặt tốt của nó thì lại lạc quan đến mức đáng sợ. Một làn gió mới trong nền kinh tế thế giới được gắn liền với sự phát triển AI. Và đó là một nguồn lực vô cùng mạnh mẽ. Do đó, hàng trăm ngàn người trên thế giới, rất thông minh, đang làm những thứ sẽ dẫn tới trí thông minh siêu nhân. Và nhiều khả năng hầu hết họ thậm chí không nhìn nó theo cách đó. Họ chỉ thấy những thứ như là nhanh hơn, rẻ hơn, tốt hơn, nhiều lợi nhuận hơn?

Vinge so sánh nó với một chiến lược trong Chiến tranh Lạnh gọi là MAD (Mutually Assured Destruction: đảm bảo tiêu diệt lẫn nhau). Được người thích các loại tên rút gọn là John von Neumann (cũng là người sáng chế một trong những máy tính đầu tiên với tên rút gọn MANIAC) đặt tên, MAD đã duy trì hòa bình trong Chiến tranh Lạnh bằng viễn cảnh hai bên cùng bị xóa sổ. Cũng như MAD, trong lĩnh vực siêu trí tuệ nhân tạo hiện có nhiều nhà nghiên cứu đang bí mật làm việc để phát triển những công nghệ có tiềm năng gây ra thảm họa. Nhưng khác với chiến lược MAD, ở đây không có điểm dừng nào cả. Không ai biết ai đang dẫn đầu, vì thế mọi người đều giả định rằng có ai đó đang đi trước. Và như chúng ta đã thấy, người thắng sẽ không có tất cả. Người thắng trong cuộc chạy đua vũ trang AI này sẽ chỉ giành được cái hư danh của người đầu tiên đương đầu với Đứa trẻ Bận rộn, hoặc cố gắng sống sót trong cái kịch bản mà nó tạo ra.

“Chúng ta đang có hàng ngàn người giỏi làm việc khắp nơi trên thế giới theo kiểu cùng chung sức để gây ra một thảm kịch,” Vinge nói. “Viễn cảnh về các mối đe dọa sắp tới là rất xấu. Chúng ta không chịu gắng sức suy nghĩ về những khả năng thất bại.”

Một số kịch bản khác mà Vinge quan tâm cũng đòi hỏi nhiều sự chú ý hơn. Một Gaia kỹ thuật số, hay sự kết hợp giữa mạng lưới người dùng và máy tính, hiện đã bắt đầu hình thành trên Internet. Ý nghĩa của điều đó đối với tương lai chúng ta là sâu sắc và rộng lớn, đáng để có nhiều cuốn sách hơn viết về nó. IA (Intelligence Augmentation: sự tăng cường trí thông minh), có tiềm năng dẫn đến tai họa tương tự như AI thuần, với đôi chút giảm nhẹ khi có sự góp mặt của con người, chí ít là ở các giai đoạn đầu. Nhưng ưu thế đó sẽ nhanh chóng biến mất. Chúng ta sẽ nói về IA sau. Bây giờ tôi muốn chú ý tới ý tưởng của Vinge rằng trí thông minh có thể khởi sinh từ Internet.

Một số nhà tư tưởng công nghệ, trong đó có George Dyson và Kevin Kelly, đã đề xuất rằng thông tin là một dạng sống. Mã máy tính mang thông tin tự nhân bản và lớn lên theo những quy luật sinh học.7 Nhưng với trí thông minh, đó lại là một câu chuyện khác. Nó là một đặc điểm của các tổ chức sinh học phức tạp, và nó không tự nhiên sinh ra.

Tại ngôi nhà của ông ở California, tôi đã hỏi Eliezer Yudkowsky rằng liệu trí thông minh có thể sinh ra từ phần cứng của Internet đang phát triển không ngừng với hàm mũ, từ cơ sở dữ liệu tương đương năm triệu triệu megabyte, từ mạng được kết nối bởi hơn bảy tỉ máy tính và điện thoại thông minh, và từ 75 triệu máy chủ của nó.8 Yudkowsky đã cau mày, như thể các tế bào não của ông vừa bị nhấn chìm trong sự câm lặng.

“Hoàn toàn không,” ông nói. “Phải mất hàng tỉ năm để quá trình tiến hóa có thể đẻ ra trí thông minh. Nó không sinh ra từ sự phức tạp của sự sống. Nó không tự động xảy đến. Cần có áp lực tối ưu hóa của chọn lọc tự nhiên.”

Nói cách khác, trí thông minh không nảy sinh từ sự phức tạp đơn thuần. Và Internet thì thiếu kiểu áp lực môi trường vốn ưu đãi đột biến này hơn đột biến khác trong tự nhiên.

“Tôi có một cách nói rằng có lẽ sự phức tạp thú vị trong cả giải Ngân hà ngoài kia còn ít hơn cả trong một con bướm nhỏ, vì con bướm được tạo ra từ những tiến trình đã giữ lại các thành tựu và tiếp tục xây dựng trên đó,” Yudkowsky nói.

Tôi đồng ý rằng trí thông minh sẽ không tự nhiên nở rộ trên Internet. Nhưng tôi nghĩ mô hình tài chính tác tử (agent-based financial modeling) có thể sẽ sớm thay đổi mọi thứ về Internet.

Ngày trước, khi các nhà phân tích phố Wall muốn dự đoán xem thị trường hành xử như thế nào, họ quay về với một loạt những quy luật được kinh tế học vĩ mô vạch ra. Những quy luật đó xem xét tới các yếu tố như lãi suất, dữ liệu việc làm, các vấn đề nhà ở như bao nhiêu nhà mới được xây. Tuy nhiên, phố Wall ngày càng chuyển sang dùng mô hình tài chính tác tử. Ngành khoa học mới này có thể mô phỏng điện toán toàn bộ thị trường chứng khoán và kể cả nền kinh tế, hòng tăng cường khả năng dự báo.

Để mô phỏng thị trường, các nhà nghiên cứu tạo ra các mẫu trong máy tính về những thực thể mua và bán chứng khoán – các cá nhân, công ty, ngân hàng, quỹ đầu tư… Mỗi loại có hàng ngàn “tác tử” với những mục đích, quy tắc hành xử, chiến thuật để mua và bán khác nhau. Chúng lại bị dữ liệu thị trường liên tục thay đổi tác động. Các tác tử này, do mạng neuron nhân tạo và các kỹ thuật AI khác vận hành, được “huấn luyện” trên các thông tin đời thực. Hoạt động đồng bộ và được cập nhật dữ liệu tức thời, các tác tử tạo ra một chân dung luôn dịch chuyển của thị trường chứng khoán sôi động.

Sau đó, các nhà phân tích thử nghiệm các kịch bản cho việc giao dịch một số chứng khoán nào đó. Và thông qua các kỹ thuật lập trình tiến hóa, mô hình thị trường này có thể “ngoại suy” ra một ngày hoặc một tuần, cung cấp cho các nha phân tích môt cái nhìn đúng về thị trường trong tương lai, và những cơ hội đầu tư nào sẽ xuất hiện. Cách tiếp cận “từ dưới lên” với việc xây dựng các mô hình tài chính này biểu thị ý tưởng là những quy tắc hành xử đơn giản của các tác nhân đơn lẻ sẽ gộp lại thành hành xử phức tạp chung. Nói một cách tổng quát, cái đúng với tổ ong và tổ kiến cũng sẽ đúng với phố Wall.

Thứ bắt đầu định hình trong các siêu máy tính ở những trung tâm tài chính thế giới là các thế giới ảo ngập tràn các chi tiết của thế giới thực, và cư trú ở đó là các “tác tử” ngày càng thông minh. Dự báo được nhiều điều hơn, sâu sắc hơn đồng nghĩa với lợi nhuận lớn hơn. Vậy là những lợi ích kinh tế to lớn đã thúc đẩy mong muốn tăng cường độ chính xác của các mô hình ở mọi mức độ.

Nếu việc tạo ra các tác tử điện toán, vốn thực hiện các chiến thuật mua bán chứng khoán phức tạp, là hữu dụng, thì phải chăng việc tạo ra các mô hình điện toán có đầy đủ những động cơ và kỹ năng của con người còn có ích hơn? Tại sao không xây dựng AGI, hay các tác tử với trí thông minh cấp độ con người? Ồ, đấy chính là thứ mà phố Wall đang làm, nhưng với một cái tên khác – các mô hình tài chính tác tử.

Thị trường chứng khoán sẽ sinh ra AGI, đó là luận điểm của Tiến sĩ Alexander D. Wissner-Gross, người có lý lịch khiến các nhà phát minh, học giả và nhà thông thái khác phải nghiêng mình thán phục. Ông là tác giả của 13 cuốn sách, nắm giữ 16 bằng sáng chế, đã học đồng thời ba chuyên ngành Vật lý, Khoa học điện tử và kỹ thuật, Toán học tại MIT, tốt nghiệp thủ khoa School of Engineering của MIT. Ông có bằng tiến sĩ vật lý từ Harvard với luận án giành giải thưởng lớn. Ông đã thành lập và bán nhiều công ty, và theo bản trích ngang của ông, đã giành “107 danh hiệu lớn” mà có lẽ không cái nào trong đó thuộc kiểu xô bồ “nhân viên của tuần.” Ông hiện là một nhà nghiên cứu của Harvard, đang cố gắng thương mại hóa ý tưởng của ông về tài chính điện toán.

Ông nghĩ rằng trong khi các nhà lý thuyết lỗi lạc khắp thế giới đang chạy đua để chế tạo AGI, nó có thể xuất hiện ở dạng hoàn chỉnh trong các thị trường tài chính, như là một hệ quả không lường trước của việc xây dựng các mô hình điện toán về những đám đông. Ai sẽ tạo ra nó? “Quant,” thuật ngữ chỉ những chuyên gia tin học tài chính của phố Wall.

“Hoàn toàn có khả năng một AGI đầy sinh động sẽ trỗi dậy từ các thị trường tài chính,” Wissner-Gross nói với tôi. “Không phải là từ kết quả một giải thuật đơn nhất của một quant đơn lẻ, mà từ một tổng thể của tất cả các thuật toán đến từ rất nhiều quỹ đầu tư. AGI có thể không cần một lý thuyết chặt chẽ. Nó có thể là một hiện tượng kết tụ. Nếu người ta còn thích tiền, thì ngành tài chính còn nhiều khả năng là bồn nước nguyên thủy mà từ đó sự sống của AGI sẽ nảy mầm.”

Để kịch bản này xảy ra, cần phải có thật nhiều tiền rót vào việc chế tạo các mô hình tài chính ngày càng siêu việt hơn. Và thực tế đúng như vậy – tin đồn là tiền đổ vào trí thông minh máy móc hay AGI ở đây còn nhiều hơn bất cứ chỗ nào, có lẽ còn hơn cả DARPA, IBM và Google. Điều đó sẽ chuyển hóa thành nhiều siêu máy tính mạnh hơn và các quant giỏi hơn. Wissner-Gross nói rằng các quant sử dụng cùng một bộ công cụ với các nhà nghiên cứu AI – mạng neuron, giải thuật di truyền, đọc tự động, các mô hình Markov ẩn… Mọi công cụ AI mới đều được kiểm tra trong lò lửa tài chính.

“Bất cứ khi nào một kỹ thuật AI mới được phát triển,” Wissner-Gross nói với tôi, “câu đầu tiên từ miệng ai đó sẽ là có dùng để chơi chứng khoán được không?’”

Bây giờ hãy tưởng tượng bạn là một quant có thế lực, với một ngân sách đủ lớn để thuê các quant khác và mua thêm phần cứng. Quỹ đầu tư mà bạn làm việc đang chạy một mô hình lớn mô phỏng phố Wall, gồm hàng ngàn các tác tử kinh tế đủ kiểu. Các giải thuật của nó tương tác với các giải thuật của các quỹ đầu tư khác – chúng gắn kết chặt chẽ đến nỗi chúng lên xuống cùng nhau như là đang cùng diễn tấu trong buổi hòa nhạc. Theo Wissner-Gross, những nhà quan sát thị trường đã đưa ra giả thuyết là một số dường như đã ra hiệu cho nhau với những giao dịch cỡ mili giây, xảy ra với tốc độ mà con người không thể theo kịp (đây là HFT hay các giao dịch tần số cao, đã được thảo luận ở Chương 6).

Phải chăng bước đi logic tiếp theo là làm cho quỹ đầu tư của bạn biết suy nghĩ? Nghĩa là, có lẽ giải thuật của bạn không nên tự động khởi phát các lệnh bán dựa trên các lệnh bán tháo ồ ạt của một quỹ đầu tư khác (điều đã diễn ra vào lần Sụp đổ Chớp giật vào tháng 5/2010). Thay vào đó, nó sẽ nhận thức việc bán tháo và quan sát xem điều đó đang ảnh hưởng đến các quỹ khác và toàn thị trường thế nào, trước khi làm điều gì đó. Nó có thể phản ứng một cách khác biệt, tốt hơn. Hoặc nó có thể làm hơn thế, giả lập đồng thời một số cực lớn các thị trường giả định, và sẵn sàng thực hiện một trong nhiều chiến thuật tương ứng với các tình thế nhất định.

Nói cách khác, sẽ có những lợi ích tài chính khổng lồ nếu giải thuật của bạn có khả năng tự nhận thức – để biết chính xác nó là gì và mô phỏng thế giới xung quanh nó. Cái này rất giống AGI. Đây chính xác là cách thị trường đang theo đuổi, nhưng liệu có ai đó đang đi tắt đón đầu và chế tạo AGI?

Wissner-Gross không biết. Và có lẽ ông sẽ không nói với bạn nếu ông biết. “Có sự thôi thúc mạnh mẽ kiểu nhà buôn khiến bạn muốn giữ bí mật về bất cứ thứ gì mang lại lợi nhuận lớn,” ông nói.

Tất nhiên. Và ông không chỉ nói đến sự cạnh tranh giữa các quỹ đầu tư, mà cả kiểu chọn lọc tự nhiên trong số các giải thuật. Người thắng cuộc sẽ sống và giữ được mã của mình. Kẻ thất bại sẽ chết. Áp lực tiến hóa của thị trường sẽ làm tăng tốc sự phát triển của trí thông minh, nhưng không thể không có sự chỉ dẫn của các quant con người. Chí ít là đến lúc này.

Một sự bùng nổ trí thông minh sẽ khó nhận ra trong thế giới tài chính điện toán, vì ít nhất là bốn lý do. Thứ nhất, như nhiều kiến trúc nhận thức, nó có khả năng sẽ sử dụng mạng neuron, lập trình di truyền, và những kỹ thuật AI “hộp đen” khác. Thứ hai, các cuộc truyền tín hiệu với băng thông rộng và tốc độ cỡ mili giây đã vượt cấp độ phản ứng của con người – hãy xem điều gì đã xảy ra trong Sụp đổ Chớp giật. Thứ ba, hệ thống này vô cùng phức tạp – không có quant hoặc thậm chí một nhóm quant nào có khả năng giải thích hệ sinh thái của các giải thuật ở phố Wall, và chuyện các giải thuật tương tác ra sao.

Cuối cùng, nếu một trí thông minh ghê gớm nảy sinh từ tài chính điện toán, nó sẽ hầu như chắc chắn được giữ bí mật chừng nào nó còn sinh lời cho những người tạo ra nó. Đấy là bốn mức độ của sự thiếu minh bạch.

Tổng kết lại, AGI có thể trỗi dậy từ phố Wall. Những giải thuật thành công nhất được giữ bí mật bởi các quant tạo ra chúng một cách đầy ưu ái, hoặc những công ty sở hữu chúng. Một sự bùng nổ trí thông minh sẽ là không thể nhận thấy đối với hầu hết, nếu không muốn nói là cả nhân loại, và dù sao thì đó dường như cũng là chuyện không thể ngăn chặn.

Những sự tương đồng giữa tài chính điện toán và nghiên cứu AGI không dừng lại ở đó. Wissner-Gross có một đề xuất lạ lùng khác. Ông cho rằng những chiến thuật đầu tiên để kiểm soát AGI có thể nảy sinh từ những cách thức hiện đang được đề xuất để kiểm soát giao dịch tần số cao. Một số trong đó có vẻ khá triển vọng.

Cầu dao thị trường sẽ cắt những AI của các quỹ đầu tư ra khỏi thế giới bên ngoài, trong trường hợp khẩn cấp. Chúng sẽ dò ra các tương tác ghép tầng của các giải thuật như trường hợp Sụp đổ Chớp giật năm 2010 và sẽ ngắt kết nối máy tính.

Luật Giao dịch Lớn đòi hỏi AI phải được đăng ký chi tiết, cùng với biểu đồ tổ chức nhân sự đầy đủ. Nếu điều này nghe như là tiền đề của sự can thiệp lớn từ chính quyền, thì đúng thế. Tại sao không? Phố Wall đã chứng minh hết lần này đến lần khác rằng trong vai trò của một nền văn hóa, nó không thể cư xử có trách nhiệm nếu không có quy định nghiêm khắc. Điều này có đúng với cả các nhà phát triển AGI không? Chẳng nghi ngờ gì nữa. Nào có cần các huy hiệu đạo đức để nghiên cứu AGI.

Kiểm tra giải thuật tiền giao dịch có thể giả lập các hành vi của giải thuật trong một môi trường ảo, trước khi chúng được thả ra thị trường. Bài kiểm tra Mã nguồn AI và Biên bản tập trung các hoạt động AI nhắm đến việc lườnơ trước các sai sót, trợ giúp việc phân tích sau khi các tai nạn xảy ra, kiểu như vụ Sụp đổ Chớp giật năm 2010.

Nhưng hãy nhìn lại bốn mức độ của sự thiếu minh bạch trên đây, và hãy xem liệu những biện pháp phòng thủ này, ngay cả khi chúng được triển khai đầy đủ, nghe có giống một sự bảo đảm chắc chắn với bạn không.

Như chúng ta đã thấy, Vinge đã tiếp nối I. J. Good và đưa vào sự bùng nổ trí thông minh những thuộc tính mới quan trọng. Ông xem xét những con đường khác để đạt tới nó ngoài phương pháp mạng neuron của Good, và chỉ ra những khả năng, thậm chí xác suất, của việc con người bị xóa sổ. Và có lẽ điều quan trọng nhất là Vinge đã cho nó một cái tên – Singularity.

Đặt tên cho sự vật, điều mà Vinge, tác giả của tiểu thuyết khoa học viễn tưởng True Names (Những cái tên thật) biết rất rõ, là một hành động đầy sức mạnh. Những cái tên gắn nơi đầu môi, lưu lại trong bộ não, và truyền miệng qua các thế hệ. Những nhà thần học đề xuất trong sách Sáng thế ký, rằng việc đặt tên mọi sự vật trên Trái đất vào ngày thứ bảy là quan trọng, bởi một tạo vật duy lý sẽ chia sẻ sân khấu do Chúa tạo ra, và sau đó sẽ cần dùng những cái tên. Phát triển từ vựng là một giai đoạn quan trọng trong sự phát triển của trẻ em. Chúng ta biết rằng không có ngôn ngữ, bộ não không thể phát triển bình thường. Dường như AGI sẽ khó thành hiện thực nếu không có ngôn ngữ, không có các danh từ, không có những cái tên.

Vinge đặt tên Singularity để chỉ một thời điểm đáng sợ đối với con người, một kế hoạch không an toàn. Định nghĩa của ông về Singularity có tính ẩn dụ – quỹ đạo ngoài lỗ đen, nơi lực hấp dẫn mạnh đến nỗi ngay cả ánh sáng cũng không thoát ra được. Chúng ta không thể biết bản chất của nó, và nó được đặt tên như vậy là có chủ đích.

Rồi đột nhiên, mọi thứ thay đổi.

Dựa trên ý tưởng về Singularity của Vinge, Ray Kurzweil đã thêm vào một chất xúc tác đầy kịch tính, đưa cả cuộc đàm luận này lên bệ phóng, và tai họa sắp tới trở nên rõ ràng hơn: sự tăng trưởng theo hàm mũ của sức mạnh và tốc độ máy tính. Chính vì sự tăng trưởng này mà những người cho rằng máy tính có trí thông minh cấp độ con người là bất khả thi trong thế kỷ này hoặc về sau nói chung, sẽ bị những người khác nhìn với ánh mắt nghi hoặc.

Với mỗi đô-la được tiêu⦾, sức mạnh của máy tính đã tăng lên cả tỉ lần trong 30 năm vừa qua. Sau 20 năm nữa, 1.000 đô-la sẽ mua được chiếc máy tính mạnh hơn chiếc hôm nay cả triệu lần, và sau 25 năm thì cả tỉ lần rnạnh hơn chiếc hôm nay. Vào khoảng năm 2020, máy tính sẽ có thể mô phỏng não người, và vào khoảng năm 2029, các nhà nghiên cứu sẽ có thể chạy một chương trình giả lập bộ não với trí thông minh và cảm xúc tinh tế như não người. Vào năm 2045, trí thông minh của người và máy sẽ tăng lên cả tỉ lần, sẽ phát triển những công nghệ đánh bại các điểm yếu của con người như mệt mỏi, bệnh tật và cái chết. Trong trường hợp chúng ta còn sống sót, thế kỷ 21 sẽ không chứng kiến một sự phát triển công nghệ tương đương với 100 năm, mà là 200.000 năm.9

Những phân tích và dự báo táo bạo này là của Kurzweil, nó là chìa khóa để hiểu định nghĩa thứ ba và bao trùm về khái niệm Singularity của Kurzweil. Nó ở trung tâm Định luật Hồi quy Tăng tốc của Kurzweil, một lý thuyết về sự tiến bộ công nghệ mà Kurzweil không phát minh ra, nhưng đã chỉ ra, tương đối giống với việc Good tiên đoán về sự bùng nổ trí thông minh và Vinge cảnh báo về Singularity đang tới. Định luật Hồi quy Tăng tốc đồng nghĩa với việc những dự báo và tiến bộ mà chúng ta đang thảo luận trong cuốn sách này sẽ chạy xình xịch hướng tới chúng ta như chuyến tàu hàng với tốc độ liên tục tăng lên gấp đôi sau mỗi dặm đường. Rất khó để nhận ra nó sẽ đến đây nhanh thế nào, nhưng đủ để nói rằng nếu con tàu đó đang chạy với tốc độ 20 dặm một giờ vào cuối dặm thứ nhất, thì chỉ 15 dặm sau nó đã chạy với tốc độ 65.000 dặm một giờ. Và điều quan trọng cần lưu ý là dự báo của Kurzweil không chỉ là về sự tiến bộ trong phần cứng công nghệ, giống như những thứ bên trong chiếc iPhone mới, mà về cả các tiến bộ trong nghệ thuật công nghệ, giống như việc phát triển một lý thuyết thống nhất về trí tuệ nhân tạo.

Nhưng Kurzweil và tôi chỉ có chung quan điểm đến đây. Thay vì dẫn tới thiên đường như các dự báo của Kurzweil khẳng định, tôi tin rằng Định luật Hồi quy Tăng tốc mô tả khoảng cách ngắn nhất có thể giữa cuộc đời chúng ta với sự kết thúc của kỷ nguyên con người.