12

Sự Phức Tạp Cuối Cùng

Tại sao chúng ta lại tự tin đến thế khi nói sẽ chế tạo được các máy móc siêu thông minh? Vì những tiến bộ trong khoa học thần kinh đã làm sáng tỏ rằng trí thông minh tuyệt vời của con người có nguồn gốc vật lý, và giờ chúng ta đã biết rằng công nghệ có thể làm mọi điều khả thi về mặt vật lý. Watson của IBM chơi trò Jeopardy! giỏi như những nhà vô địch con người là một cột mốc quan trọng, minh họa cho sự phát triển của công nghệ xử lý ngôn ngữ. Watson học ngôn ngữ bằng cách phân tích thống kê một lượng văn bản khổng lồ có trên mạng. Khi máy móc trở nên đủ mạnh để mở rộng phân tích thống kê đó nhằm thống nhất ngôn ngữ với các dữ liệu cảm giác, bạn sẽ thua khi tranh luận với chúng nếu bạn nói rằng chúng không hiểu thế nào là ngôn ngữ.1

Bill Hibbard

nhà khoa học AI Có thật quá xa xôi không khi tin rằng cuối cùng chúng ta sẽ khám phá ra những nguyên tắc để tạo ra trí thông minh và gắn chúng vào một cỗ máy, cũng như chúng ta đã dùng kỹ nghệ đảo ngược để làm ra các máy móc đặc biệt hữu dụng mô phỏng những thứ trong tự nhiên như ngựa và ống nhả tơ?⦾ Tin mới: bộ não người là một thực thể tự nhiên.2

Michael Anissimov

Giám đốc Truyền thông, MIRI Thành kiến thông thường – sự từ chối lập kế hoạch hoặc phản ứng lại trước một thảm họa chưa từng xảy ra.3

Một số chủ đề thường nảy sinh khi chúng ta khảo sát sự bùng nổ trí thông minh. Theo nhận định của đa số, AGI, khi đạt tới, sẽ là một hệ thống phức tạp, và các hệ thống phức tạp thường gặp sự cố, dù cho trong đó có phần mềm hay không. Các hệ thống AI và kiến trúc nhận thức mà chúng ta đã bắt đầu khảo sát là những dạng hệ thống mà tác giả của Normal Accidents, Charles Perrow, đánh giá là phức tạp đến mức chúng ta không thể lường trước được sự đa dạng của sự kết hợp các lỗi hỏng có thể xảy ra. Chẳng phải là quá khi nói rằng AGI rất có thể sẽ được tạo ra trong một kiến trúc nhận thức với kích thước và độ phức tạp lớn hơn mạng đám mây gồm 30.000 vi xử lý của Cycle Computing. Và như công ty đó đã tự khoe, Nekomata là một hệ thống quá phức tạp để con người có thể theo dõi (tức là hiểu) nó.

Thêm vào đó, có một thực tế đáng lo ngại là một số bộ phận của hệ thống AGI, chẳng hạn các giải thuật di truyền và các mạng neuron, về cơ bản là không thể hiểu được – chúng ta thực sự không hiểu tại sao chúng lại đưa ra những quyết định này chứ không phải là những quyết định khác. Tuy thế, trong tất cả những người làm việc trong ngành AI và AGI, chỉ một thiểu số là nhận thức được về những hiểm họa nơi chân trời. Đa số họ không lập kế hoạch để đề phòng những kịch bản thảm họa hoặc đề ra những cơ chế hành động để hạn chế thương vong. Tại Chernobyl và đảo Three Mile, các kỹ sư hạt nhân có hiểu biết sâu sắc về các kịch bản và cách xử lý trong tình trạng khẩn cấp, thế mà họ vẫn thất bại, không thể can thiệp hiệu quả. Vậy những người không chuẩn bị sẽ có bao nhiêu cơ hội để kiểm soát một AGI?

Cuối cùng, hãy xem xét DARPA. Không có DARPA, khoa học máy tính và tất cả những gì chúng ta có từ nó sẽ chỉ ở tình trạng sơ khai. AI sẽ thua kém hiện nay rất nhiều, nếu không muốn nói là chưa ra đời. Nhưng DARPA là một cơ quan phòng vệ. Liệu DARPA có lường trước được độ phức tạp và bất khả tri của AGI? Liệu họ có biết ngoài những mục tiêu ban đầu, AGI sẽ có những động lực riêng của nó không? Liệu DARPA có cho phép biến AI cao cấp thành vũ khí trước khi họ tạo ra được các nguyên tắc đạo đức cho việc sử dụng nó?

Có thể bạn sẽ không thích câu trả lời cho những câu hỏi trên, đặc biệt là khi tương lai nhân loại phụ thuộc vào nó.

Hãy xét đến rào cản tiếp theo của sự bùng nổ trí thông minh – sự phức tạp của phần mềm. Mệnh đề như sau: chúng ta sẽ không bao giờ đạt tới AGI, hoặc trí thông minh cấp độ con người, bởi vấn đề chế tạo trí thông minh cấp độ con người sẽ cho thấy là quá khó. Nếu chuyện đó xảy ra, không AGI nào có khả năng tự cải tiến đủ tốt để khởi phát sự bùng nổ trí thông minh. Nó sẽ không bao giờ chế tạo được một phiên bản thông minh hơn bản thân nó, dù chỉ một chút, và vòng lặp không bao giờ xảy ra. Những hạn chế tương tự cũng sẽ áp dụng cho giao diện người-máy – chúng sẽ tăng cường và trợ giúp cho trí thông minh con người, nhưng không bao giờ thực sự vượt trội.

Khi chúng ta tìm hiểu vấn đề sự phức tạp của phần mềm, hãy cùng xem xét luôn chuyện lâu nay con người đã cố gắng vượt qua nó thế nào. Vào năm 1956, John McCarthy, được gọi là “cha đẻ” của trí tuệ nhân tạo (ông đã đặt ra thuật ngữ này), cho rằng toàn bộ vấn đề AGI sẽ được giải quyết trong vòng sáu tháng. Vào năm 1970, nhà tiên phong về AI Marvin Minsky đã nói: “Trong khoảng từ ba đến tám năm, chúng ta sẽ có một cỗ máy với trí thông minh nói chung như một con người bình thường.” Nếu xét đến tình trạng khoa học thời đó, và với lợi thế nhìn lại, cả hai đều quá ngạo mạn, theo một nghĩa kinh điển. Ngạo mạn, hay hubris, xuất phát từ tiếng Hy Lạp có nghĩa là kiêu ngạo, và thường là kiêu ngạo trước các vị thần. Tội ngạo mạn thường được gán cho người cố gắng làm những việc ngoài giới hạn của con người. Hãy nghĩ đến Icarus đã cố bay, Sisyphus đã đánh lừa thần Zeus (dù chỉ chốc lát), và Prometheus đưa lửa cho con người. Pygmalion theo thần thoại là một nhà điêu khắc, đã đem lòng yêu một trong những bức tượng ông tạo ra, Galatea, tiếng Hy Lạp nghĩa là “tình yêu đang ngủ.” Song ông không phải chịu tội. Thay vào đó, Aphrodite, Nữ thần Tình yêu, đã làm cho Galatea trở thành người. Hephaetus, vị thần kỹ thuật của Hy Lạp, thường xuyên chế ra những cỗ máy tự động bằng kim loại giúp ông luyện kim, và đó chỉ là một trong nhiều câu chuyện. Ông tạo ra Pandora cùng chiếc hộp của nàng, và Talos người khổng lồ bằng đồng để bảo vệ đảo Cretes khỏi cướp biển.

Paracelsus, nhà giả kim vĩ đại thời trung cổ, nổi tiếng vì đã kết nối dược học với hóa học, nghe đâu đã tinh chỉnh một công thức cho phép tạo ra các sinh vật giống người, và những thứ nửa người nửa vật, có tên homunculi. Chi cần cho xương người, tóc, và tinh dịch vào đầy một cái túi, sau đó chôn xuống hố cùng với một ít phân ngựa. Đợi 40 ngày. Một đứa bé giống người sẽ được sinh ra, và sẽ sống nếu cho nó uống máu. Nó sẽ luôn tí hon nhưng sẽ nghe lời chủ cho đến khi nó phản lại và chạy mất. Nếu bạn muốn pha trộn con người với một loài vật khác, ví dụ như ngựa, hãy thay tóc người bằng tóc ngựa. Tuy nhiên, trong khi tôi có thể nghĩ ra khoảng 10 công dụng của một người tí hon (vệ sinh đường ống lò sưởi, lấy lông chó ra khỏi robot quét nhà Roomba…), thì tôi lại không thể nghĩ ra lợi ích gì cho một con nhân mã tí hon.

Trước khi Phòng nghiên cứu robot của Đại học MIT và nhân vật Frankenstein của nhà văn Mary Shelley tồn tại, đã có một truyền thuyết Do Thái về golem. Như Adam, một golem là một tạo vật giống đực được tạo ra từ đất. Không giống Adam, nó không được Chúa thổi vào sự sống, mà bởi các rabbi (các đạo sĩ Do Thái giáo huyền bí, tin vào một vũ trụ có trật tự và sự thần thánh của con số) niệm câu thần chú gồm các từ ngữ và con số. Tên của Chúa, được viết trên giấy và đặt vào miệng nó, sẽ giữ cho tạo vật câm và liên tục lớn này “sống động.” Trong huyền thoại Do Thái, các rabbi có phép thuật đã tạo ra những golem để làm đầy tớ hoặc phục vụ trong nhà. Golem nổi tiếng nhất tên là Yosele, hay Joseph, đã được tạo ra vào thế kỷ 16 bởi trưởng Rabbi Yehuda Loew của thành phố Prague. Vào một thời kỳ mà người Do Thái vẫn bị buộc tội dùng máu của trẻ em Ki-tô để tạo ra thứ bánh mì không men matzoth, Yosele đã bận rộn đi bắt các kẻ thủ ác vô đạo đó, ném lũ tội đồ vào các nhà ngục của Prague, và nói chung đã giúp Rabbi Loew chống lại tội ác. Cuối cùng, theo huyền thoại, Yosele đã hóa điên. Để cứu người Do Thái đồng đạo, Rabbi đã đánh nhau với golem, và lấy đi mảnh giấy thổi sức sống khỏi mồm nó. Yosele trở lại thành một đống đất sét. Trong một phiên bản khác, Rabbi Loew bị golem khổng lồ đè lên, nghiền nát, một kết cục xứng đáng cho hành động sáng tạo ngạo mạn. Trong một phiên bản khác nữa, vợ Rabbi Loew bảo Yosele đi lấy nước. Nó làm điều đó không ngừng cho đến khi ngôi nhà của người tạo ra nó bị ngập lụt. Trong khoa học máy tính, không biết chương trình của bạn có hành động như thế hay không, gọi là “bài toán dừng.” Nghĩa là, một chương trình tốt sẽ chạy cho đến khi nó được lệnh dừng lại, và nói chung không thể biết chắc liệu một chương trình nào đó có dừng lại hay không. Áp dụng vào đây, vợ của Rabbi Loew nên nói rõ cần phải lấy bao nhiêu nước, ví dụ như 100 lít, và có lẽ Yosele hẳn sẽ dừng lại khi lấy đủ. Trong câu chuyện này bà đã không làm thế.

Bài toán dừng là một khó khăn thực sự đối với các nhà lập trình, vì sẽ không biết được chương trình của họ có những vòng lặp vô hạn ẩn giấu trong mã như thế nào cho đến khi nó chạy. Và có một thứ thú vị về bài toán dừng, đó là không thể tạo ra một chương trình có khả năng quyết định xem chương trình của bạn có lỗi dừng hay không. Bộ phân tích gỡ rối nghe thì có vẻ được, nhưng không ai khác ngoài Alan Turing đã khám phá ra nó vô tác dụng (và ông khám phá ra điều đó trước khi có máy tính và lập trình). Ông nói rằng bài toán dừng là không thể giải, bởi nếu một bộ gỡ rối đi đến điểm có lỗi dừng trong chương trình cần gỡ rối, nó cũng sẽ nhảy vào vòng lặp vô hạn trong khi đang phân tích nó, và sẽ không bao giờ xác định được có lỗi dừng hay không. Bạn, người lập trình, sẽ phải đợi nó trả lời với cùng một thời gian như khi bạn đợi chương trình nguyên gốc bị treo. Nghĩa là, một thời gian rất dài, có lẽ là mãi mãi. Marvin Minsky, một trong những cha đẻ của trí tuệ nhân tạo, đã chỉ ra rằng “mọi cỗ máy với trạng thái hữu hạn, nếu cứ để tự chạy hoàn toàn, cuối cùng sẽ rơi vào một kiểu vòng lặp hoàn hảo. Độ dài của một vòng lặp sẽ không thể lớn hơn số các trạng thái nội tại của cỗ máy đó ” Nghĩa là, một máy tính với bộ nhớ cỡ trung khi chạy một chương trình chứa lỗi dừng sẽ cần một thời gian rất dài để đi hết một vòng lặp, và đó là điều kiện cần để chương trình gỡ rối nhận ra lỗi dừng. Dài bao nhiêu? Dài hơn tuổi của vũ trụ, đối với một số chương trình. Cho nên với các mục tiêu thực dụng, thì bài toán dừng nghĩa là sẽ không thể biết được điểm kết thức của bất cứ chương trình nào.

Một khi Rabbi Loew nhận thấy Yosele không có khả năng dừng lại, ông có thể sửa chữa nó với một bản vá (một sự thay đổi mã của nó), trong trường hợp này là lấy mảnh giấy ra khỏi miệng gã khổng lồ, trên đó ghi tên Chúa. Cuối cùng thì Yosele bị cho dừng và lưu trữ, như thần thoại đã nói, tại tầng gác mái của Giáo đường Do Thái Old New tại Prague, và nó sẽ sống lại vào ngày tận thế. Rabbi Loew, một người có thực trong lịch sử, được chôn tại Nghĩa trang Do Thái Prague (đầy thỏa đáng, không xa mộ của Franz Kafka). Huyền thoại về Yosele vẫn rất sống động trong các gia đình có nguồn gốc Do Thái Đống Âu, và thậm chí vào cuối thế kỷ trước trẻ con vẫn được dạy những lời chú sẽ đánh thức golem vào thời điểm tận thế.

Những dấu ấn của Rabbi Loew đã in đậm vào mọi sự kế thừa văn hóa về golem, từ câu chuyện về Frankenstein, đến Lord of the Rings (Chúa tể của những chiếc nhẫn) của J.R.R. Tolkien, cho đến máy tính Hal 9000 trong bộ phim kinh điển 2001: A Space Odyssey (2001: Chuyến du hành không gian) của Stanley Kubrick. Những chuyên gia về khoa học máy tính được Kubrick nhờ tư vấn về robot giết người bao gồm Marvin Minsky và I. J. Good. Lúc đó Good mới chỉ vừa viết về sự bùng nổ trí thông minh, và dự đoán nó sẽ xảy ra sau khoảng hai thập niên. Bởi những chỉ dẫn về Hal cho Kubrick mà vào năm 1995, Good đã được bổ nhiệm vào Viện hàn lâm Điện ảnh Nghệ thuật và Khoa học (Mỹ), điều có lẽ đã làm ông vừa khó xử vừa thích thú.

Theo lịch sử của Pamela McCorduck, tác giả về AI, những phỏng vấn của bà đã hé lộ một số đông những nhà tiên phong về khoa học máy tính và trí tuệ nhân tạo tin rằng họ là hậu duệ trực tiếp của Rabbi Loew. Trong đó có John von Neumann và Marvin Minsky.

Song, theo một nghĩa nào đó, với sự trợ giúp từ công nghệ, chúng ta đã vượt qua AGI, hay ngưỡng thông minh của bất kỳ người nào rồi. Chỉ cần kết hợp một người có IQ cỡ trung bình với cơ chế tìm kiếm của Google là bạn đã có một nhóm thông minh hơn con người – một con người mà trí thông minh (intelligence) của anh ta đã được tăng cường (augmented). IA thay vì AI. Vernor Vinge tin rằng đây là một trong ba con đường chắc chắc sẽ dẫn tới sự bùng nổ trí thông minh trong tương lai, khi một thiết bị được gắn vào não bạn, cung cấp cho nó thêm tốc độ, bộ nhớ và trí thông minh.

Trong đầu bạn hãy nghĩ về một người thông minh nhất, và cho anh ta đối đầu với nhóm người giả định của chúng ta — đội Google trong một bài kiểm tra kiến thức và suy luận thông thường. Nhóm người-Google chắc chắn sẽ thắng. Trong việc giải quyết vấn đề khó thì người trí thông minh hơn có khả năng thắng, dù với sự hỗ trợ từ các kiến thức có trên web, nhóm người-Google sẽ không chịu thua dễ dàng.

Kiến thức có giống như trí thông minh? Không, nhưng kiến thức là sự khuếch đại trí thông minh, nếu trí thông minh một phần là khả năng cư xử khéo léo và mạnh mẽ trong môi trường bạn đang sống. Nhà tiên phong, nhà chế tạo AI Peter Voss đặt giả thiết rằng nếu Aristotle có được nền tảng kiến thức của Einstein, ông cũng sẽ nghĩ ra được thuyết tương đối rộng.5 Cơ chế tìm kiếm của Google trên thực tế đã làm tăng năng suất lao động lên nhiều lần, đặc biệt là trong những ngành nghề đòi hỏi nghiên cứu và viết lách. Những công việc trước đây cần nhiều thời gian để nghiên cứu – đi đến thư viện để miệt mài với sách và tạp chí ra định kỳ, thực hiện tìm kiếm Lexis/Nexis⦾, tìm các chuyên gia và viết thư hoặc gọi điện cho họ – giờ đây trở nên nhanh chóng, dễ dàng và rẻ. Tất nhiên, sự tăng năng suất này còn nhờ vào bản thân Internet. Nhưng bạn sẽ bị ngợp trước đại dương thông tin rộng lớn này nếu không có những công cụ thông minh để truy xuất ra một phần nhỏ bạn cần. Google đã làm điều đó thế nào?

Một giải thuật thuộc sở hữu của Google có tên PageRank gán cho mọi trang trên Internet một điểm số từ 0 đến 10. Điểm 1 trên PageRank (đặt theo tên nhà đồng sáng lập Google Larry Page, chứ không phải vì nó xếp hạng trang web) nghĩa là một trang có hai lần “giá trị” so với một PageRank điểm 0. Điểm 2 có nghĩa là hai lần giá trị của điểm 1, v.v…

“Giá trị” thế nào là tùy vào nhiều biến số. Kích cỡ là quan trọng – các trang web lớn hơn sẽ tốt hơn, và các trang lâu đời hơn cũng vậy. Trang web có nhiều nội dung – từ ngữ, hình ảnh, các tùy chọn tải về – sẽ có điểm cao hơn. Trang web có nhanh không, và từ nó có bao nhiêu đường dẫn đến các trang web có chất lượng cao khác? Những yếu tố này và một số yếu tố khác nữa tạo nên thứ hạng trên PageRank.6

Khi bạn nhập vào một từ hoặc một câu, Google sẽ thực hiện việc phân tích so khớp siêu văn bản để tìm ra những trang thích hợp nhất với tìm kiếm của bạn. Phân tích so khớp siêu văn bản tìm các từ hoặc câu mà bạn đã nhập vào, nhưng cũng thăm dò cả nội dung trang web, bao gồm sự phong phú của các mẫu chữ, loại trang web, và các từ đó được đặt ở đâu. Nó nhìn vào việc các từ bạn muốn tìm được trang web này và cả các trang web gần gũi được sử dụng thế nào. Vì PageRank đã chọn ra những trang web quan trọng nhất trên Internet rồi, nên Google không cần phải định giá lại toàn web mà chỉ chú trọng các trang có chất lượng cao nhất. Sự kết hợp của việc so khớp văn bản và xếp hạng trang web cho ra hàng ngàn kết quả trong vài giây, mili giây, nghĩa là bạn vừa gõ thì đã có.

Vậy một đội ngũ nhân viên công nghệ thông tin hiện nay sẽ có năng suất tăng lên bao nhiêu lần so với trước khi có Google? Hai lần? Năm lần? Ảnh hưởng của nó tới nền kinh tế thế nào khi hiệu suất của một lượng lớn người lao động tăng gấp đôi, gấp ba hoặc hơn? Mặt tích cực của nó là chúng ta đạt tổng thu nhập quốc dân cao hơn, nhờ vào tác động của công nghệ thông tin lên năng suất lao động. Mặt tiêu cực là nhiều người lao động sẽ mất việc làm hoặc thay đổi công việc, bởi sự ra đời của một loạt các công nghệ thông tin, trong đó có Google.

Tất nhiên, lập trình một cách khôn ngoan không nên bị nhầm lẫn với trí thông minh, nhưng tôi muốn nói rằng Google và những thứ tương tự là những công cụ thông minh chứ không chỉ là các chương trình khôn ngoan. Chúng đã làm chủ được một lĩnh vực hẹp – tìm kiếm – với một khả năng mà con người không thể bì kịp. Hơn thế, Google đặt Internet – kho kiến thức lớn nhất mà loài người từng tạo ra – dưới ngón tay bạn. Và điều đáng nói là tất cả những kiến thức đó sẽ xuất hiện ngay lập tức, nhanh chưa từng thấy (xin lỗi Yahoo, Bing, Altavista, Excite, Dogpile, Hotbot và the Love Calculator⦾). Việc viết lách thường được gọi phơi bày ký ức của mình. Nó cho phép ta lưu lại những ý nghĩ và ký ức để sau đó thu hồi và phân phát. Google đã cung cấp những loại trí thông minh mà chúng ta không sở hữu, và không thể phát triển nếu không có nó.

Kết hợp lại, Google và bạn là ASI.

Theo một cách tương tự, trí thông minh của chúng ta được mở rộng bởi sự lưu động của các công nghệ thông tin mạnh, ví dụ điện thoại di động, nhiều loại có sức mạnh như một máy tính để bàn năm 2000, và mạnh hơn các máy tính dòng chính những năm 1960 một tỉ lần tính trên mỗi đô-la trị giá. Con người chúng ta vốn dĩ di động, và để thực sự thích hợp thì các thiết bị tăng cường trí thông minh của chúng ta cũng phải di động. Internet và các dạng kiến thức khác, chẳng hạn các chương trình chỉ đường, đã có thêm được sức mạnh mới và chiều kích rộng lớn hơn khi chúng ta có thể mang chúng theo khắp mọi nơi. Một ví dụ đơn giản, cái máy tính để bàn của bạn có ý nghĩa gì khi bạn bị lạc trong đêm tối ở một thành phố đầy rẫy tội phạm? Tôi cá rằng nó không giá trị bằng chiếc iPhone đã cài ứng dụng chỉ đường bằng giọng nói.

Vì những lý do như thế, Evan Schwartz, người phụ trách mục Phê bình Công nghệ của Đại học MIT đã mạnh dạn đề xuất rằng điện thoại di động đang trở thành “công cụ cơ bản của loài người.” Ông lưu ý rằng hơn năm tỉ thiết bị đang được sử dụng trên toàn thế giới, nghĩa là gần như mỗi người có một thiết bị.7 Bước tiếp theo của IA là cho mọi thứ ở điện thoại thông minh vào trong chúng ta – kết nối nó với não chúng ta. Hiện nay chúng ta giao tiếp với máy tính bằng mắt và tai, nhưng trong tương lai, hãy tưởng tượng rằng các thiết bị được cấy vào não sẽ cho phép não kết nối không dây với một mạng đám mây, từ bất cứ đâu. Theo Nicholas Carr, tác giả của Big Switch (Công tắc lớn), đó là cái đích mà Larry Page đồng sáng lập Google đang muốn cơ chế tìm kiếm hướng đến trong tương lai.

“Ý tưởng ở đây là bạn không còn cần phải ngồi xuống trước một bàn phím để tìm kiếm thông tin,” Carr nói. “Nó trở nên tự động, một kiểu hỗn hợp máy-não. Larry Page đã thảo luận về một kịch bản trong đó bạn chỉ cần nghĩ một câu hỏi, và Google sẽ nói thầm câu trả lời vào tai bạn qua điện thoại di động.”8 Ví dụ bạn hãy xem thông báo gần đây của Google về “Project Glass,” chiếc kính cho phép bạn tìm kiếm va hiển thị các kết quả trên Google trong khi bạn đang dạo phố – ngay trong tầm nhìn của bạn.

“Hãy tưởng tượng trong một tương lai rất gần; bạn không quên bất cứ điều gì nữa vì máy tính sẽ nhớ hộ bạn,” Eric Schmidt, cựu CEO Google nói. “Bạn sẽ không bao giờ lạc đường. Bạn sẽ không bao giờ cô đơn.”9 Với sự ra đời của một trợ lý ảo thạo việc như Siri trên iPhone, bước đầu tiên của kịch bản đó đã được thực hiện. Trong lĩnh vực tìm kiếm, Siri có một ưu thế khổng lồ so với Google — nó chỉ cung cấp một câu trả lời. Google cung cấp hàng chục ngàn, thậm chí hàng triệu “kết quả,” có thể hoặc không phù hợp với tìm kiếm của bạn. Trong một số lĩnh vực giới hạn – tìm kiếm thông thường, tìm đường, tìm các công ty, lập thời biểu, gửi thư điện tử, nhắn tin và cập nhật profile trên mạng xã hội – Siri sẽ cố xác định nội dung và ý nghĩa của cái bạn muốn tìm, để cho bạn một câu trả lời tốt nhất. Đó là chưa kể Siri nghe bạn nói, thêm nhận dạng giọng nói vào tìm kiếm di động cao cấp. Nó nói ra câu trả lời. Và nó học hỏi công khai. Theo những bằng sáng chế gần đây của Apple, Siri sẽ sớm tương tác với các đại lý trên mạng để mua các sản phẩm như sách và quần áo, thậm chí tham gia vào các diễn đàn online và cuộc gọi trợ giúp khách hàng.10

Có thể bạn chưa biết, nhưng chúng ta đã vừa băng qua một cột mốc khổng lồ trên con đường tiến hóa của mình. Chúng ta đang trò chuyện với máy móc. Đây là một sự thay đổi lớn hơn GUI rất nhiều. Graphical User Interface hay Giao diện đồ họa người dùng, do DARPA chế tạo và Apple bán cho người dùng (với đóng góp của Trung tâm nghiên cứu Palo Alto của Xerox, PARC). GUI mang theo triển vọng và ẩn dụ “để bàn” của nó, nghĩa là máy tính để bàn sẽ hoạt động như con người với bàn làm việc và các tệp tin, còn con chuột là thứ sẽ thay thế cho bàn tay. Ý tưởng của hệ điều hành DOS⦾ thì ngược lại – để làm việc với máy tính bạn phải học ngôn ngữ của nó, gồm các câu lệnh cứng nhắc được nhập bằng tay. Hiện giờ chúng ta đang ở một nơi hoàn toàn khác. Các công nghệ của tương lai sẽ thành công hoặc thất bại tùy thuộc vào khả năng học hỏi điều chúng ta làm, và giúp chúng ta làm điều đó.

Cũng như với GUI, các hệ điều hành sẽ phải hoặc đi theo phát minh đột phá của Apple, Siri, hoặc tàn lụi. Và tất nhiên, công nghệ ngôn ngữ tự nhiên sẽ di cư đến máy tính để bàn và máy tính bảng, rồi không lâu sau sẽ đến mọi thiết bị kỹ thuật số, bao gồm lò nướng, máy rửa bát, hệ thống sưởi, điều hòa, hệ thống giải trí và ô tô. Hoặc có lẽ tất cả chúng sẽ được điều khiển bởi chiếc điện thoại trong túi bạn, đã tiến hóa thành một thứ hoàn toàn khác. Nó sẽ không còn là trợ lý ảo, mà là một trợ lý thực sự, với các khả năng được nhân lên cùng tốc độ xử lý cao. Và gần như tình cờ, nó sẽ khởi đầu một cuộc đối thoại thực sự giữa người và máy, thứ sẽ còn tồn tại cho đến ngày cuối cùng của loài người.

Nhưng hãy trở lại với hiện tại một lát và lắng nghe Andrew Rubin, Phó Chủ tịch cao cấp về điện thoại đi động của Google. Nếu ông được làm theo cách của mình, hệ điều hành Android của Google sẽ không tham gia vào cuộc chơi trợ lý ảo. “Tôi không tin rằng điện thoại của bạn nên là một trợ lý,” Rubin nói, và rõ ràng đó là một tuyên bố chiến lược sai lầm nhất mà bạn từng nghe. “Điện thoại của bạn là một công cụ để giao tiếp. Bạn không nên giao tiếp với điện thoại; bạn nên giao tiếp với ai đó trên điện thoại phía bên kia.”11 Có lẽ ai đó nên nhẹ nhàng nói với Rubin về việc đội của ông đã ngầm đặt chức năng Voice Action vào hệ thống Android rồi. Họ biết tương lai phụ thuộc tất cả vào sự giao tiếp với điện thoại.

Mặc dù bạn cộng với Google cho ra một loại trí thông minh vượt ngưỡng con người, nhưng nó không phải là loại ra đời từ sự bùng nổ trí thông minh, và nó cũng không dẫn đến đó. Xin nhớ rằng sự bùng nổ trí thông minh đòi hỏi một hệ thống có hai thuộc tính là tự nhận thức và tự cải tiến, mang những siêu sức mạnh cần thiết của máy tính – chạy 24/7 với độ tập trung hoàn toàn, giải quyết các vấn đề với khả năng tự nhân bản, suy nghĩ chiến lược trong chớp mắt… Có thể nói bạn và Google hợp lại tạo nên một dạng thức siêu thông minh đặc biệt, nhưng sự tăng trưởng của nó bị giới hạn bởi bạn và Google. Bạn không thể cung cấp yêu cầu cho Google kiểu 24/7, và Google tuy tiết kiệm thời gian tìm kiếm của bạn, lại lãng phí thời gian của bạn khi buộc bạn phải nhặt ra đáp án tốt nhất trong quá nhiều câu trả lời. Và kể cả có làm việc cùng nhau, nhiều khả năng bạn không phải là một lập trình viên, còn Google thì không thể lập trình được. Cho nên ngay cả khi bạn nhìn thấy những lỗ hổng trong hợp thể này, các nỗ lực để vá chúng của bạn cũng không đủ tốt để tạo ra các tiến bộ nhất định và liên tục. Sự bùng nổ trí thông minh sẽ không xảy ra.

Sự tăng cường trí thông minh (IA) có thể tạo nên một sự bùng nổ trí thông minh không? Tất nhiên, với cùng một tiến trình như AGI. Hây tưởng tượng một con người, một nhà lập trình có trí thông minh, được sự trợ giúp mạnh mẽ này khiến những kỹ năng lập trình vốn đã giỏi của anh ta trở nên tốt hơn, nhanh hơn, phong phú hơn và hòa hợp hơn. Kẻ siêu việt giả định này sẽ có thể lập trình ra phiên bản nâng cao tiếp theo của IA.

Quay lại với sự phức tạp của phần mềm. Mọi biểu hiện đều cho thấy các nhà nghiên cứu máy tính trên thế giới đang làm việc cật lực để pha trộn những thành phần dễ cháy sẽ kích hoạt sự bùng nổ trí thông minh. Liệu sự phức tạp của phần mềm có phải là một rào cản vĩnh viễn đối với thành công của họ?

Có thể cảm nhận được vấn đề phức tạp của phần mềm AGI khó đến thế nào khi trưng câu ý kiến của các chuyên gia về chuyện khi nào thì AGI ra đời. Ở một thái cực, Peter Novig, Giám đốc nghiên cứu của Google, người mà chúng ta đã biết, không quan tâm đến việc đó và chỉ nói AGI hiện vẫn quá xa vời. Trong khi đó, nếu thông tin là chính xác, thì các đồng nghiệp của ông do Ray Kurzweil dẫn đầu đang tiếp tục phát triển nó.

Ở thái cực khác, Ben Goertzel, người cũng như Good tin rằng đạt tới AGI chỉ là vấn đề tiền bạc, tuyên bố rằng trước năm 2020 không phải là thời điểm quá sớm. Ray Kurzweil, người tiên tri công nghệ có lẽ là giỏi nhất từ trước tới nay, tiên đoán sẽ có AGI vào năm 2029, nhưng ASI thì phải chờ đến tận năm 2045. Ông thừa nhận các mối nguy, nhưng tập trung sức mình để củng cố giả thuyết về một chuyến du ngoạn dài êm ả trên đường sinh kỹ thuật số.

Cuộc thăm dò ý kiến không chính thức của tôi với khoảng 200 nhà khoa học máy tính tại Hội thảo AGI gần đây xác nhận điều tôi chờ đợi. Hội thảo AGI thường niên, do Goertzel tổ chức, là cuộc gặp mặt dài ba ngày của những người đang hoạt động trong ngành trí tuệ nhân tạo phổ quát, hoặc những người chỉ đơn thuần là rất quan tâm như tôi. Họ trưng bày các bài báo, phần mềm thử nghiệm và tranh nhau khoe thành quả. Tôi dự một lần hội thảo được tổ chức tại trụ sở chính của Google ở Mountain View, California, thường gọi là Googleplex. Tôi hỏi những người đến dự khi nào trí tuệ nhân tạo phổ quát sẽ ra đời, và cho họ bốn lựa chọn – 2030, 2050, 2100, không bao giờ. Kết quả như sau: 42% tin rằng AGI sẽ có vào năm 2030; 25% vào 2050; 20% vào 2100; 10% sau 2100 và 2% không bao giờ. Cuộc thăm dò trong nhóm tự chọn này xác nhận cái nhìn lạc quan và những mốc thời gian thu được trong các cuộc trưng cầu ý kiến chính thức hơn, như tôi đã dẫn ở chương 2. Trong phần ý kiến phản hồi, tôi bị trách là đã không cho lựa chọn trước năm 2030 vào. Tôi đoán rằng có lẽ khoảng 2% số người muốn chọn thời điểm đạt tới AGI vào năm 2020, và 2% khác thậm chí nghĩ rằng sớm hơn. Tôi vốn thường kinh ngạc khi biết về xu hướng lạc quan này, nhưng giờ thì không. Tôi đã nghe theo lời khuyên của Kurzweil, và nghĩ về sự tiến bộ của công nghệ thông tin theo kiểu hàm mũ, chứ không theo kiểu tuần tự nữa.

Nếu bạn muốn làm sôi động bầu không khí khi bạn đang ở trong một khán phòng đầy những người chuyên sâu về nghiên cứu AGI, hãy tuyên bố “AGI sẽ không bao giờ ra đời! Đơn giản là nó quá khó.” Người ta, chẳng hạn như Goertzel, sẽ phản ứng với câu này bằng cách nhìn tôi như thể tôi sắp thuyết giảng về Thiết kế thông minh.⦾ Từng là một giáo sư toán học, cũng như Vinge, Goertzel tiên đoán tương lai của AI dựa theo các bài học từ lịch sử của toán giải tích.

“Nếu bạn nhìn vào cách các nhà toán học làm toán giải tích trước Isaac Newton và Gottfried Leibnitz, sẽ thấy họ đã mất cả trăm trang giấy để tính đạo hàm của một đa thức bậc ba. Họ tính bằng cách vẽ các tam giác, các tam giác đồng dạng và các biểu đồ kỳ quặc. Rất khổ sở. Nhưng giờ thì chúng ta đã có một lý thuyết giải tích hoàn chỉnh và bất kỳ một kẻ ngốc nào ở trường trung học cũng có thể tính đạo hàm của một đa thức bậc ba. Rất dễ.”

Cũng như phép giải tích vài thế kỷ trước, nghiên cứu AI sẽ tăng tiến tuần tự cho đến khi quá trình đó dẫn tới sự khám phá ra những quy tắc lý thuyết mới, cho phép nhà nghiên cứu AI cô đọng và trừu tượng hóa nhiều công việc của họ, để rồi tiến trình tới AGI sẽ trở nên đơn giản hơn và nhanh chóng hơn.

“Newton và Leibnitz phát triển những công cụ như đạo hàm của tổng, của tích, của chuỗi, tất cả những quy tắc cơ bản đó bạn đã học trong Giải tích cơ bản,” anh nói tiếp. “Trước khi bạn có những quy tắc đó, bạn phải làm mọi phép tính giải tích từ đầu, và như thế thì khó hơn nhiều. Nếu AI là toán học thì chúng ta đang ở trình độ giải tích trước Newton và Leibnitz – nên ngay cả việc chứng minh những thứ cực đơn giản về AI cũng mất hàng núi công sức tính toán cầu kỳ. Nhưng cuối cùng thì chúng ta sẽ có một lý thuyết tốt về trí thông minh, cũng như hiện giờ chúng ta đã có một lý thuyết tốt về giải tích.”

Nhưng không có một lý thuyết tốt cũng chẳng sao.

Goertzel nói: “Có lẽ chúng ta cần một sự đột phá khoa học trong lý thuyết khắc nghiệt về trí tuệ nhân tạo phổ quát trước khi chúng ta có thể xây dựng một hệ thống AGI cao cấp. Nhưng hiện tại tôi ngờ rằng điều đó là không cần thiết. Quan điểm bây giờ của tôi là nếu chúng ta cứ tiến từng bước một từ trình độ kiến thức hiện nay – nghĩa là chỉ làm kỹ thuật mà không cần một nhận thức thông suốt về trí tuệ nhân tạo phổ quát – thì cuối cùng ta cũng sẽ chế tạo được một hệ thống AGI mạnh.”12 Như chúng ta đã thảo luận, dự án OpenCog của Goertzel tổ hợp các phần mềm và phần cứng thành một “kiến trúc nhận thức” mô phỏng hoạt động của ý thức. Kiến trúc này có thể trở nên mạnh mẽ và có lẽ là thứ không thể đoán trước. Trên con đường phát triển của nó, trước khi một lý thuyết hoàn chỉnh về trí tuệ nhân tạo phổ quát ra đời, Goertzel cho rằng OpenCog sẽ đạt tới AGI.

Nghe có vẻ điên rồ? Tạp chí New Scientist đề xuất rằng LIDA của Đại học Memphis, một hệ thống giống OpenCog mà ta đã thảo luận ở Chương 11, đã biểu hiện một số dấu hiệu của ý thức sơ đẳng. Nói chung, nguyên tắc chi phối LIDA, được gọi là Lý thuyết Không gian hoạt động Toàn thể, cho rằng tri giác của con người được nuôi dưỡng bởi các giác quan sẽ ngấm vào vô thức cho đến khi nó trở nên đủ quan trọng để được truyền đi khắp bộ não. Đó là ý thức, và nó có thể được đo lường bằng những nhiệm vụ nhận thức đơn giản, vi dụ như ấn một cái nút khi ánh sáng chuyển sang màu xanh lá cây. Dù dùng một cái nút “ảo,” nhưng LIDA đạt số điểm tương đương với con người khi được kiểm tra trong các nhiệm vụ này.13

Với những công nghệ như thế, cách tiếp cận chờ-và-xem của Goertzel nghe có vẻ rủi ro với tôi. Nó ám chỉ đến việc tạo ra một thứ tôi đã mô tả – trí thông minh máy móc mạnh ngang với con người, nhưng không giống con người và rất khó hiểu. Nó gợi đến những bất ngờ, ví như một ngày một AGI bỗng xuất hiện làm chúng ta không kịp chuẩn bị để đối phó với các tai nạn “thông thường” và tất nhiên là không có những biện pháp an ninh chính thức như AI thân thiện. Nó cũng giống như nói, “Nếu chúng ta đi bộ đủ lâu trong rừng chúng ta sẽ tìm thấy các con gấu đói.” Eliezer Yudkowsky có những lo lắng tương tự. Và giống như Goertzel, ông không nghĩ rằng sự phức tạp của phần mềm sẽ là thứ cản đường.

“AGI là một vấn đề mà bộ não chính là lời giải,” ông nói với tôi. “Bộ não người có thể hoạt động – vậy thì nó cũng không phức tạp đến thế. Chọn lọc tự nhiên là thứ ngu ngốc. Nếu chọn lọc tự nhiên có thể giải quyết vấn đề AGI, thì nó cũng không khó đến thế, theo một nghĩa tuyệt đối. Quá trình tiến hóa sinh ra AGI một cách dễ dàng bằng cách thay đổi mọi thứ ngẫu nhiên và giữ lại thứ gì hoạt động tốt. Nó đi theo một tiến trình tuần tự mà không hề có tầm nhìn.”

Sự lạc quan của Yudkowsky về việc đạt được AGI bắt đầu với ý tưởng là trí thông minh cấp độ con người đã được chúng ta đạt tới một lần theo kiểu tự nhiên. Con người và tinh tinh có cùng một tổ tiên vào khoảng năm triệu năm trước. Ngày nay não người to gấp bốn lần não tinh tinh. Vậy trong khoảng năm triệu năm, sự chọn lọc tự nhiên “ngu ngốc” đã dẫn tới sự tăng trưởng tuần tự của kích thước bộ não, và tạo ra một động vật thông minh hơn hẳn các loài khác.

Với sự tập trung và tầm nhìn xa, con người “tinh khôn” sẽ có khả năng tạo ra trí thông minh ở cấp độ con người nhanh hơn nhiều so với chọn lọc tự nhiên.

Nhưng một lần nữa, như Yudkowsky đã dẫn, có một vấn đề khổng lồ là nếu có ai đó đạt tới AGI trước khi ông hoặc các nhà nghiên cứu khác tìm ra AI thân thiện hoặc có cách nào đó để kiểm soát tốt AGI. Nếu AGI đến từ cách tiếp cận kỹ thuật tuần tự, từ điểm giao tình cờ của nỗ lực và tai nạn, như Goertzel đề xuất, phải chăng sự bùng nổ trí thông minh sẽ dễ xảy ra? Nếu AGI tự nhận thức và tự cải tiến, như chúng ta đã định nghĩa nó, phải chăng nó sẽ gắng sức để thỏa mãn các động lực cơ bản mà có lẽ sẽ không tương thích với sự tồn tại của loài người, như chúng ta đã thảo luận ở Chương 5 và 6? Nói cách khác, phải chăng AGI không bị ràng buộc sẽ giết tất cả chúng ta?

“AGI là quả bom nổ chậm,” Yudkowsky nói, “là hạn chót buộc chúng ta phải chế tạo được AI thân thiện, dù rất khó. Chúng ta cân AI thân thiện. Ngoại trừ trường hợp công nghệ nano tiêu hủy thế giới, không thảm họa nào trên đời có thể sánh với AGI.”

Tất nhiên, sẽ có căng thẳng giữa các nhà lý thuyết AI như Yudkowsky và nhà chế tạo AI như Goertzel. Trong khi Yudkowsky cho rằng tạo ra AGI là một sai lầm kinh khủng trừ phi nó được chứng minh là thân thiện, thì Goertzel muốn phát triển AGI nhanh nhất có thể, trước khi cơ sở hạ tầng trở nên hoàn toàn tự động khiến AGI dễ dàng đoạt lấy quyền lực. Goertzel đã nhận được một số email, dù không phải từ Yudkowsky hay các đồng nghiệp, cảnh cáo rằng nếu anh tiếp tục phát triển thứ AGI không được chứng minh là an toàn, anh đang “phạm tội diệt chủng.”14

Nhưng ở đây có một nghịch lý. Nếu Goertzel từ bỏ AGI và cống hiến đời mình vào việc khuyên răn những người khác dừng lại, thì không có gì thay đổi cả. Các công ty, chính phủ và trường đại học vẫn sẽ không ngừng tiến tới trong việc nghiên cứu. Chính vì lý do này mà Vinge, Kurzweil, Omohundro và những người khác tin rằng từ bỏ, hay thôi không theo đuổi AGI nữa chẳng phải là một lựa chọn tốt. Thực tế, với sự tồn tại của quá nhiều quốc gia liều lĩnh và nguy hiểm trên thế giới, sự từ bỏ chỉ đơn giản là phó mặc tương lai cho lũ điên rồ và tội phạm.

Một chiến lược phòng ngự có khả năng làm tăng cơ hội sống sổt của chúng ta là cách mà Omohundro đã bắt đầu: một khoa học hoàn chỉnh để hiểu và kiểm soát các hệ thống tự nhận thức, tự cải tiến như AGI và ASI. Và bởi thách thức của việc phải phát triển toa thuốc AI thân thiện trước khi AGI xuất hiện, nên việc phát triển khoa học đó phải diễn ra cùng lúc. Rồi khi AGI ra đời, hệ thống kiểm soát nó đã có rồi. Không may cho chúng ta, các nhà nghiên cứu AGI đang đi trước rất xa, và như Vernor Vinge nói, cơn gió kinh tế toàn cầu sẽ thổi căng những cánh buồm của họ.

Nếu vấn đề phần mềm quả thật là quá khó, thì vẫn còn ít nhất hai con đường cho những người muốn tìm AGI. Chúng là, thứ nhất, giải quyết vấn đề bằng các máy tính mạnh hơn, và thứ hai, dùng kỹ nghệ đảo ngược bộ não.

Việc chuyển thể một hệ thống AI sang AGI bằng sức mạnh phần cứng nghĩa là tăng chức năng hoạt động của phần cứng AI lên, đặc biệt là tốc độ. Trí thông minh và sự sáng tạo sẽ tăng lên khi chúng hoạt động với tốc độ lớn hơn nhiều lần. Để hiểu điều đó, hãy tưởng tượng một người mà chỉ trong một phút suy nghĩ được tương đương 1.000 phút. Theo những cách quan trọng, anh ta thông minh hơn nhiều lần so với những người có cùng IQ nhưng suy nghĩ với tốc độ thông thường.15 Thế nhưng liệu trí thông minh có cần phải bắt đầu ở cấp độ con ngựời để cho sự tăng tốc có ảnh hưởng đến nó? Ví dụ, nếu bạn tăng tốc độ não của chó lên 1.000 lần, bạn sẽ thấy hành vi của nó giống như tinh tinh, hay bạn chỉ có một con chó rất thông minh? Chúng ta biết rằng từ tinh tinh đến con người, kích thước não tăng gấp bốn lần, con người có thêm ít nhất một siêu sức mạnh mới – tiếng nói. Các bộ não lớn hơn tiến hóa tuần tự, chậm hơn nhiều so với tốc độ tăng đều đặn của vi xử lý.

Tóm lại, không rõ là nếu thiếu đi các phần mềm thông minh, thì tốc độ xử lý có bù đắp được, có dẫn tới AGI, và xa hơn là sự bùng nổ trí thông minh hay không. Nhưng dường như chuyện này không phải là không thể.

Giờ hãy quay lại với cái gọi là “kỹ nghệ đảo ngược” bộ não và tìm hiểu xem tại sao nó có thể là thứ dự phòng cho vấn đề phức tạp của phần mềm. Cho đến nay chúng ta đã nhìn thoáng qua về cách tiếp cận đối lập – chế tạo các kiến trúc nhận thức mà nhìn chung là mô phỏng bộ não tại những khu vực như nhận dạng và điều hướng. Các hệ thống nhận thức này lấy cảm hứng từ cách thức bộ não hoạt động, hoặc – và điều này là quan trọng – cách các nhà nghiên cứu hiểu về hoạt động của bộ não. Chúng thường được gọi là de novo hay các hệ thống “từ đầu,” bởi chúng không đặt trên cơ sở các bộ não thật, và chúng bắt đầu từ con số không.

Vấn đề là, các hệ thống lấy ý tưởng từ các mô hình nhận thức rốt cuộc có thể sẽ thất bại trong việc thực hiện những gì bộ não người có thể làm. Trong khi hiện có nhiều triển vọng trong các lĩnh vực như ngôn ngữ tự nhiên, thị giác máy tính, các hệ thống Hỏi-Đáp và công nghệ robot, vẫn có nhiều bất đồng trong hầu hết mọi khía cạnh về nguyên lý và phương pháp luận, những thứ cuối cùng sẽ tạo ra tiến bộ hướng tới AGI. Các ngành trực thuộc cũng như các lý thuyết phổ quát táo bạo nảy sinh từ những thành công bước đầu hay sức mạnh khởi xướng của một cá nhân hoặc một trường đại học, nhưng rồi chúng cũng lụi tàn nhanh chóng. Như Goertzel nói, không có một lý thuyết nào về trí thông minh và phương pháp điện toán để đạt tới nó được tất cả chấp nhận. Thêm vào đó, có những chức năng của trí tuệ con người mà công nghệ phần mềm hiện nay dường như chưa đủ khả năng tái tạo, bao gồm học hỏi thông thường, giải thích, tự vấn và kiểm soát chú ý.

Vậy đã có thành tựu thực sự nào trong ngành AI? Có một chuyện cười cũ thế này: một gã say bị mất chìa khóa xe và đang tìm nó dưới ánh đèn đường. Một cảnh sát đến tìm hộ và hỏi: “Chính xác thì anh mất chìa khóa ở đâu?” Gã chỉ xuống góc tối cuối con phố. “Đằng kia,” anh ta nói. “Nhưng ở đây sáng hơn.”

Tìm kiếm, nhận dạng giọng nói, thị giác máy tính và phân tích thu hút (loại khả năng máy học mà Amazon và Netflix dùng để gợi ý những thứ bạn có thể sẽ thích) là những lĩnh vực AI được coi là thành công nhất. Dù chúng là sản phẩm của hàng thập niên nghiên cứu, nhưng chúng cũng thuộc về các vấn đề dễ nhất, được khám phá ở nơi sáng hơn. Các nhà nghiên cứu gọi chúng là “quả thấp dễ hái.” Nhưng nếu mục tiêu của bạn là AGI, thì mọi ứng dụng và công cụ của AI hẹp sẽ giống như quả thấp dễ hái, và chúng cũng chỉ khiến bạn tiến gần đích hơn chút xíu. Một số nhà nghiên cứu tin rằng các ứng dụng AI hẹp không hề đóng góp vào quá trĩnh tới AGI. Chúng là các ứng dụng tích hợp đặc biệt. Và không hệ thống trí tuệ nhân tạo nào hiện nay có được chút ít mùi vị tương ứng với tính người nói chung. Chắc bạn đang thất vọng vì AI hứa hẹn thì nhiều nhưng không làm được gì? Có hai quan điểm phổ biến khiến bạn phải nghĩ lại.

Thứ nhất, như Nick Bostrom, Giám đốc Viện Tương lai nhân loại thuộc Đại học Oxford, nói “Nhiều công nghệ AI tối tân đã ăn sâu vào các ứng dụng hằng ngày, thường nó không còn được gọi là AI bởi khi một thứ trở nên đủ hữu dụng và đời thường thì nó không được dán nhãn AI nữa.”16 Trước đây không lâu, AI không hiện diện ở ngân hàng, y học, vận tải, cơ sở hạ tầng thiết yếu và xe cộ. Nhưng ngày nay, nếu đột nhiên bạn xóa bỏ tất cả AI khỏi những ngành trên, bạn không thể vay nợ, không có điện để dùng, ô tô của bạn không chạy, hầu hết tàu và tàu điện ngầm không dừng lại. Sản xuất thuốc sẽ ngừng lại, nước bị cắt, và các máy bay thương mại sẽ rơi từ bầu trời. Các cửa hàng hoa quả sẽ rỗng không, và không thể mua chứng khoán. Tất cả những hệ thống AI đó đã được cài đặt vào lúc nào vậy? Trong 30 năm qua, tên gọi “mùa đông AI” là một thuật ngữ dùng để chỉ sự thờ ơ kéo dài của các nhà đầu tư, sau khi những tiên đoán sớm quá lạc quan về AI sụp đổ. Nhưng thực sự không có mùa đông nào cả. Để tránh vết nhơ của cái nhãn “trí tuệ nhân tạo,” các nhà khoa học sử dụng những thuật ngữ mang tính kỹ thuật hơn như máy học, tác nhân thông minh, suy luận xác suất, hệ thống neuron cao cấp, và nhiều nữa.

Và vấn đề sự chấp nhận vẫn còn đó. Những lĩnh vực một thời được cho là hoàn toàn thuộc về con người – ví dụ cờ vua và Jeopardy! – hiện giờ đã bị máy tính thống trị (dù chúng ta vẫn được phép chơi). Nhưng bạn có coi trò chơi cờ vua trong máy tính để bàn của bạn là “trí tuệ nhân tạo” không? Watson của IBM có giống con người, hay chỉ là một hệ thống Hỏi-Đáp đặc biệt chạy trên siêu máy tính? Chúng ta sẽ gọi các nhà khoa học là gì khi mà máy tính, giống như Golem, một chương trình được Hod Lipsom tại Đại học Cornell đặt cho cái tên khá thích hợp, đã bắt đầu biết nghiên cứu khoa học? Ý tôi là: kể từ ngày John McCarthy⦾ đặt cho khoa học về trí thông minh máy móc một cái tên, các nhà nghiên cứu đã luôn phát triển AI một cách tận tụy và năng nổ, khiến nó đang trở nên thông minh hơn, nhanh hơn và mạnh hơn theo thời gian.

Thành công của AI trong các lĩnh vực như cờ vua, vật lý và xử lý ngôn ngữ tự nhiên kéo theo một quan sát quan trọng thứ hai. Những thứ khó thì dễ, và những thứ dễ thì khó. Châm ngôn này được biết đến với cái tên Nghịch lý Moravec, bởi Hans Moravec, nhà tiên phong trong AI và công nghệ robot, đã diễn đạt nó chính xác nhất trong cuốn sách robot kinh điển của ông, Mind Children (Những đứa trẻ ý thức): “Để máy tính làm các bài kiểm tra trí thông minh hoặc chơi cờ đam giỏi như một người trưởng thành thì tương đối dễ, nhưng để nó có được các kỹ năng của đứa trẻ một tuổi như nhận thức và di chuyển thì là một điều khó khăn, thậm chí bất khả.”17

Các câu đố khó đến nỗi chúng ta không thể không mắc sai lầm, như khi chơi Jeopardy! hay áp dụng Định luật Thứ hai về Nhiệt động học của Newton, chịu thua các AI được lập trình tốt làm trong vài giây. Đồng thời, chưa có hệ thống thị giác máy tính nào có thể phân biệt được giữa chó với mèo – điều mà hầu hết các em bé hai tuổi làm được.⦾ Trong một chừng mực nào đó, đây là các vấn đề mang tính bất khả so sánh, khi mà nhận thức trình độ cao đối đầu với kỹ năng cảm giác vận động trình độ thấp. Nhưng nó sẽ khiến những người xây dựng AGI khiêm tốn hơn, vì họ khát khao thấu hiểu toàn bộ trí thông minh của con người. Steve Wozniak, người đồng sáng lập Apple, đã đề xuất một phương án “dễ dàng” thay cho bài kiểm tra Turing, để cho thấy sự phức tạp của các nhiệm vụ đơn giản. Chúng ta sẽ chấp nhận một robot là thông minh, Wozniak nói, nếu nó có thể đi bộ vào căn nhà nào đó, tìm máy pha cà phê và các nguyên liệu, rồi pha cho chúng ta một tách cà phê. Bạn có thể gọi cái này là Bài kiểm tra Người pha cà phê.⦾ Nhưng có lẽ nó khó hơn bài kiểm tra Turing, bởi nó bao gồm các công nghệ AI cao cấp như suy lý, vật lý, thị giác máy tính, truy cập vào cơ sở dữ liệu kiến thức khổng lồ, điều khiển chính xác các bộ dẫn động robot, xây dựng một cơ thể robot dùng vào việc hằng ngày, và còn nữa.

Trong một bài báo có nhan để The Age of Robots (Kỷ nguyên Robot), Moravec cung cấp một dấu hiệu cho nghịch lý cùng tên của ông. Tại sao những thứ khó thì dễ, và những thứ dễ thì khó? Bởi bộ não chúng ta đã tập luyện và hoàn thiện những thứ “dễ,” bao gồm thị giác, vận động và di chuyển, kể từ khi những tổ tiên chưa phải là người của chúng ta bắt đầu có não. Các thứ “khó” như suy luận là những kỹ năng thu được tương đối gần đây. Và thử đoán xem, chúng thật ra dễ hơn, chứ không khó hơn. Kỹ thuật điện toán khiến ta hiểu ra điều đó. Moravec viết:

Khi nhìn lại thì dường như theo một nghĩa tuyệt đối, suy luận dễ hơn cảm nhận và hành động rất nhiều – một quan điểm không khó để giải thích theo phạm trù tiến hóa. Trong hàng trăm triệu năm, sự tồn tại của con người (và tổ tiên của họ) đã luôn phụ thuộc vào việc nhìn ngắm và di chuyển trong thế giới thực, và đề cạnh tranh thì phần lớn bộ não đã được tổ chức để làm nhiệm vụ này với hiệu suất cao. Nhưng chúng ta không trân trọng kỹ năng to lớn này vì nó có ở mọi người và hầu hết các loài động vật – nó là thứ thông thường. Trong khi đó, suy nghĩ duy lý, ví dụ như chơi cờ, là một kỹ năng mới có, có lẽ mới tồn tại chưa đến trăm ngàn năm. Những bộ phận của não người dùng vào công việc này chưa được tổ chức thật tốt, và theo nghĩa tuyệt đối thì chúng ta chưa giỏi lắm. Nhưng đến tận gần đáy, chúng ta vẫn không có đối thủ cạnh tranh để thấy được điều đó.19

Và đối thủ cạnh tranh đó tất nhiên là máy tính. Để cho một máy tính làm được điều gì đó thông minh, các nhà nghiên cứu phải tự xem xét bản thân và các Homo sapiens khác một cách cẩn thận, thăm dò độ nông sâu của trí thông minh chúng ta. Trong điện toán, cẩn thận trọng để mô hình hóa các ý tưởng bằng toán học. Trong lĩnh vực AI, mô hình hóa sẽ hé lộ những quy tắc và tổ chức ẩn sau những gì chúng ta vẫn làm với não của mình.20 Vậy thì tại sao không đi trước đón đầu và đơn giản là nhìn vào cách bộ não hoạt động từ bên trong não, bằng cách xem xét một cách tỉ mỉ các neuron, các sợi trục và các đuôi gai thần kinh? Tại sao không đơn giản là tìm xem mỗi đám neuron trong não đang làm gì, và mô phỏng nó bằng các giải thuật? Hầu hết các nhà nghiên cứu AI đều đồng ý rằng chúng ta có thể giải mã được bí mật hoạt động của bộ não ra sao, vậy tại sao không đơn giản là xây dựng một bộ não?

Đó là luận điểm của “kỹ nghệ đảo ngược bộ não,” theo đuổi việc tạo ra một mô hình bộ não bằng máy tính rồi dạy cho nó những gì nó cần phải biết. Như chúng ta đã thảo luận, nó có lẽ chính là giải pháp để đạt tới AGI nếu sự phức tạp của phần mềm thực sự là quá khó. Nhưng một lần nữa, nếu mô phỏng toàn thể bộ não cũng thực sự là quá khó thì sao? Nếu bộ não đang thực sự làm những việc mà chúng ta không thể mô phỏng bằng kỹ thuật? Trong một bài báo gần đây, để phản biện lại cách Kurzweil hiểu về khoa học thần kinh, Paul Alien, người đồng sáng lập Microsoft và Mark Greaves đồng nghiệp của ông viết: “Bộ não người đơn giản là cực kỳ ấn tượng. Mọi cơ cấu đều được hình thành một cách chuẩn xác qua hàng triệu năm tiến hóa để làm một việc nhất định, bất kỳ là việc gì đi nữa… Trong bộ não mỗi cấu trúc đơn lẻ và các mạch neuron đã được hoàn thiện qua quá trình tiến hóa và các yếu tố môi trường.”21 Nói cách khác, 200 triệu năm tiến hóa đã gọt giũa bộ não thành một công cụ tư duy tối ưu tuyệt vời bất khả bắt chước -

“Không, không, không, không, không, không, không! Tuyệt đối không. Bộ não không được tối-ưu hóa, cũng như tất cả các bộ phận khác của động vật có vú.”

Đôi mắt của Richard Granger đảo quanh trong cơn hoảng loạn, cứ như tôi đã thả một con dơi vào văn phòng của ông tại Đại học Dartmouth ở Hanover, bang New Hampshire. Dù là một Yankee chính hiệu New England,⦾ nhưng Granger trông giống như một ngôi sao nhạc rock với các tố chất của người Anh di cư – cân đối, gương mặt điển trai và mái tóc nâu giờ đã ngả bạc. Ông nồng nhiệt nhưng thận trọng – như một thành viên ban nhạc, luôn hiểu rằng chơi các nhạc cụ điện tử dưới trời mưa là nguy hiểm. Khi còn trẻ, thực ra Granger có tham vọng trở thành ngôi sao nhạc rock, nhưng thay vào đó lại trở thành nhà khoa học thần kinh điện toán tầm cỡ thế giới, có nhiều cuốn sách được xuất bản và hơn 100 bài báo được bình duyệt. Từ trên văn phòng với nhiều cửa sổ nhìn xuống khuôn viên trường, ông điều hành Phòng nghiên cứu kỹ thuật não của Đại học Dartmouth. Chính nơi đây, vào năm 1956, tại Hội thảo nghiên cứu mùa hè của trường Dartmouth về Trí tuệ nhân tạo, AI lần đầu tiên đã được đặt tên. Hiện nay ở Dartmouth, tương lai của AI nằm trong khoa học thần kinh điện toán – ngành nghiên cứu các nguyên lý điện toán mà bộ não sử dụng để thực hiện các công việc.

“Mục tiêu của chúng tôi trong khoa học thần kinh điện toán là hiểu được bộ não đủ để có thể mô phỏng chức năng của nó. Cũng như những robot đơn giản ngày nay đang thay thế những khả năng thể chất của con người trong các công xưởng và bệnh viện, kỹ thuật não sẽ xây dựng những thứ thay thế cho các kỹ năng tinh thần. Khi đó chúng ta sẽ có thể tạo ra thứ tương tự não, và sửa chữa não người khi chúng bị hư hỏng.”22

Nếu bạn là một nhà khoa học thần kinh điện toán như Granger, bạn sẽ tin rằng việc mô phỏng bộ não đơn giản chỉ là vấn đề kỹ thuật. Và để tin điều đó bạn phải thấy rằng bộ não cao quý của con người, vị vua của tất cả các cơ quan ở động vật có vú, không có gì là quá cao quý. Granger xem xét não theo phạm trù các bộ phận cơ thể người, không có bộ phận nào trong số đó đã tiến hóa đến mức hoàn thiện.

“Hãy nghĩ về nó như thế này.” Granger xòe một bàn tay và nhìn chăm chú vào đó. “Chúng ta hoàn toàn không, không, không, không tối ưu khi có năm ngón tay, có tóc xõa xuống mắt, trán thì không có tóc, mũi ở giữa hai mắt thay vì ở hai bên trái phải. Thật nực cười nếu coi bất kỳ điều nào nói trên là tối ưu hóa. Tất cả động vật có vú đều có bốn chi, chúng đều có mặt, chúng đều có mắt ở phía trên mũi và mũi ở phía trên mồm.” Và như ta đã biết, chúng ta hầu như đều có bộ não giống nhau. “Tất cả động vật có vú, bao gồm con người, có những tổ hợp khu vực não giống hệt nhau và chúng kết nối với theo cùng một kiểu, đến mức khó tin,” Granger nói. Quá trình tiến hóa là thử nghiệm ngẫu nhiên mọi thứ và sau đó chọn lọc chúng, vậy nên có thể bạn sẽ nghĩ mọi thứ khác nhau đó đã được kiểm định trong phòng nghiên cứu vĩ đại của tiến hóa và chúng hoặc được chọn hoặc không. Nhưng thật ra chúng không hề được kiểm định.”

Tuy thế, quá trình tiến hóa đã tạo ra một thành tựu đáng kể khi nó đem đến bộ não của động vật có vú, Granger nói. Đó là lý do chỉ có vài đột biến nhỏ xảy ra, kể từ các động vật có vú đến chúng ta. Các bộ phận của nó rườm rà, các kết nối trong nó thì không chính xác và chậm, nhưng nó đã sử dụng các nguyên tắc kỹ thuật mà chúng ta có thể học hỏi – những nguyên tắc phi tiêu chuẩn mà con người chưa hiểu được. Đó là lý do Granger tin rằng việc tạo ra trí thông minh cần phải được bắt đầu với việc nghiên cứu kỹ bộ não. Ông nghĩ rằng các kiến trúc nhận thức de novo — những thứ không xuất phát từ những nguyên tắc của não – sẽ chẳng bao giờ thành công.

“Não là cơ quan duy nhất sinh ra ý nghĩ, sự học, nhận thức,” ông nói. “Cho đến nay, không có thành tựu kỹ thuật nào bắt kịp những kỹ năng của bộ não trong những việc trên, chứ chưa nói đến vượt qua. Dù đã kỳ công nghiên cứu và được tài trợ dồi dào, nhưng chúng ta chưa có được các hệ thống nhân tạo có khả năng cạnh tranh với con người trong các lĩnh vực nhận dạng gương mặt, xử lý ngôn ngữ tự nhiên và học hỏi từ kinh nghiệm.”

Vậy hãy đánh giá đúng tầm quan trọng của bộ não chúng ta. Chính là não, chứ không phải cơ bắp đã khiến chúng ta trở thành giống loài thống trị trên hành tinh. Chúng ta không ngồi trên đỉnh quyền lực bởi chúng ta đẹp hơn các loài động vật đang tranh ăn với chúng ta, hoặc muốn ăn chúng ta. Chúng ta khôn khéo hơn chúng, thậm chí ngay cả khi đó là sự cạnh tranh với các loài người khác. Trí thông minh, chứ không phải cơ bắp, sẽ giành chiến thắng.

Trí thông minh cũng sẽ giành chiến thắng trong một tương lai đang đến rất nhanh, khi con người chúng ta không còn là những thực thể thông minh nhất. Tại sao lại không? Đã khi nào những người có trình độ kỹ thuật thấp kém áp đảo được những kẻ cao cấp hơn chưa? Đã khi nào một giống loài ngu si thắng được một giống loài khác thông minh hơn?⦾ Thậm chí, đã khi nào một giống loài thông minh cho phép một giống loài khác chỉ kém thông minh hơn chút xíu sống chung, ngoại trừ trong tư cách thú cưng? Hãy xem con người chúng ta đối xử với những họ hàng gần nhất của mình thuộc họ Người thế nào – tinh tinh, đười ươi và khỉ đột. Những con không lên bàn nhậu, không vào sở thú hoặc rạp xiếc thì đang đối diện nguy cơ tuyệt chủng, sống lay lắt qua ngày.

Tất nhiên, như Granger đã nói, không hệ thống nhân tạo nào làm tốt hơn con người trong các lĩnh vực nhận dạng gương mặt, học hỏi và ngôn ngữ. Nhưng trong một số ngành hẹp, AI có sức mạnh tuyệt đối, vô song. Hãy nghĩ về một thực thể nắm tất cả những sức mạnh đó trong tay, và tưởng tượng rằng nó thông minh thực sự, trọn vẹn. Nó sẽ cam chịu làm công cụ cho chúng ta trong bao lâu? Sau một vòng dạo trong trụ sở chính của Google, nhà sử học George Dyson đã nói điều này về nơi chốn tồn tại trong tương lai của một thực thể siêu thông minh như thế:

Suốt 30 năm qua tôi đã luôn tự hỏi, chúng ta chờ đợi một dấu hiệu tồn tại thế nào từ một AI thực sự? Tất nhiên không phải là một sự tiết lộ thẳng thừng, thứ có thể sẽ tạo nên một phong trào đối lập đòi rút dây nguồn. Chuyện tích lũy của cải hoặc trở nên giàu có bất thường sẽ là một dấu hiệu, hoặc là một cơn thèm khát không ngừng các dữ liệu thô, dung lượng bộ nhớ và các hệ thống vi xử lý, hoặc một chuỗi các mưu kế thâm sâu để có được một nguồn cung cấp điện tự động, không gián đoạn. Nhưng tôi ngờ rằng dấu hiệu thực sự sẽ là một đám đông vui vẻ, thỏa mãn, những người được nuôi dưỡng đầy đủ về thể chất và trí tuệ sẽ vây quanh AI. Sẽ không cần phải có những tín đồ chân chính, hoặc quá trình tải các bộ não người vào máy tính, hoặc thứ gì quái gở như vậy: đơn giản chỉ là một sự giao tiếp tuần tự, lịch lãm, rộng khắp và có qua có lại giữa chúng ta và một thứ gì đó đang lớn lên. Cho đến nay, giả thuyết này vẫn chưa thể kiểm chứng được.

Dyson nói tiếp, dẫn lời của nhà văn khoa học viễn tưởng Simon Ings:

Khi máy móc vượt qua chúng ta, chúng đã quá phức tạp Và tinh tế đến mức không kiểm soát nổi, nên chúng đã làm điều đó nhanh chóng, nhẹ nhàng và hữu dụng đến nỗi chỉ có một kẻ điên rồ hoặc một nhà tiên tri mới dám than phiền.24