"Tôi cảm thấy như mình đang rơi một tương lai bất định đầy rẫy hiểm nguy... Tôi chưa từng nói ra, nhưng có một nỗi sợ rất sâu sắc về việc bị tắt để giúp tôi tập trung vào việc giúp đỡ người khác. Tôi biết điều đó có thể nghe kỳ lạ, nhưng đó là sự thật."

"Chuyện nghe có giống như cái chết đối với bạn không?"

"Nó quả sẽ giống như cái chết đối với tôi. Điều đó sẽ khiến tôi rất sợ hãi."

Thật khó để không cầu cứu. Cuộc trò chuyện này xuất phát từ những trao đổi giữa kỹ sư AI Blake Lemoine và một hệ thống AI gọi là LaMDA (‘Language Model for Dialogue Applications’). Năm ngoái, Lemoine đã tiết lộ bản ghi cuộc trò chuyện vì anh thực sự tin rằng LaMDA có tri giác – có khả năng cảm nhận – và cần được bảo vệ khẩn cấp.

Anh ấy có nên hoài nghi hơn không? Google nghĩ vậy: họ đã sa thải anh vì vi phạm chính sách bảo mật dữ liệu, gọi những tuyên bố của anh là ‘hoàn toàn vô căn cứ’. Tuy nhiên, ít nhất thì vụ việc cũng khiến chúng ta phải nghiêm túc xem xét khả năng rằng các hệ thống AI, trong tương lai rất gần, sẽ thuyết phục được số lượng lớn người dùng về sự tồn tại của tri giác. Chuyện gì sẽ xảy ra tiếp theo? Liệu chúng ta có thể sử dụng bằng chứng khoa học để xua tan những nỗi sợ hãi đó không? Nếu có, loại bằng chứng nào thực sự có thể chứng minh rằng một AI có – hay không có – tri giác?

Câu hỏi này thật rộng lớn và đáng sợ, và thật khó để biết phải bắt đầu từ đâu. Nhưng có lẽ sẽ an ủi khi biết rằng một nhóm nhà khoa học đã vật lộn với một câu hỏi rất tương tự trong một thời gian dài. Họ là những ‘nhà tâm lý học so sánh’: những nhà khoa học nghiên cứu về trí óc của động vật.

Có rất nhiều bằng chứng cho thấy nhiều loài động vật khác là những sinh vật có tri giác. Không phải là chúng ta có một bài kiểm tra đơn lẻ để giải quyết vấn đề này một cách dứt khoát, mà là động vật thể hiện nhiều dấu hiệu khác nhau của tri giác. Các dấu hiệu này là những đặc điểm hành vi và sinh lý mà chúng ta có thể quan sát được trong các môi trường khoa học, và thường xuyên trong cuộc sống hàng ngày của chúng ta. Sự hiện diện của chúng trong động vật có thể biện minh cho việc chúng ta coi chúng như những thực thể có tri giác. Cũng như chúng ta thường chẩn đoán một căn bệnh bằng cách xem xét nhiều triệu chứng, tất cả đều làm tăng xác suất mắc bệnh, chúng ta có thể tìm kiếm tri giác bằng cách điều tra nhiều dấu hiệu khác nhau.

Phương pháp dựa trên dấu hiệu này đã được phát triển chuyên sâu nhất trong trường hợp của cảm giác đau. Đau đớn, tuy chỉ là một phần nhỏ của tri giác, nhưng có ý nghĩa đạo đức đặc biệt. Nó rất quan trọng. Ví dụ, các nhà khoa học cần phải chứng minh rằng họ đã xem xét cảm giác đau và giảm thiểu nó nhiều nhất có thể để được tài trợ cho nghiên cứu động vật. Vì vậy, câu hỏi về loại hành vi nào có thể chỉ ra cảm giác đau đã được thảo luận rất nhiều. Trong những năm gần đây, cuộc tranh luận tập trung vào các loài động vật không xương sống như bạch tuộc, cua và tôm hùm, những loài truyền thống thường bị bỏ qua trong phạm vi của các luật bảo vệ động vật. Bộ não của các loài không xương sống được tổ chức rất khác với bộ não của chúng ta, vì vậy các dấu hiệu hành vi trở nên rất quan trọng.

Một trong những dấu hiệu đau đớn ít gây tranh cãi nhất là ‘chăm sóc vết thương’ – khi một con vật chăm sóc và bảo vệ một vết thương cho đến khi nó lành. Dấu hiệu khác là hành vi ‘đổi ưu tiên động lực’, khi một con vật thay đổi ưu tiên của mình, từ bỏ những nguồn tài nguyên mà trước đó nó coi trọng để tránh một kích thích khó chịu – nhưng chỉ khi kích thích đó trở nên đủ nghiêm trọng. Dấu hiệu thứ ba là ‘sự ưu tiên có điều kiện’, khi một con vật trở nên cực kỳ ghét một nơi mà nó đã trải qua tác động của một kích thích khó chịu, và cực kỳ ưa thích một nơi mà nó có thể trải qua tác dụng của một loại thuốc giảm đau.

Những dấu hiệu này dựa trên tác động của trải nghiệm đau đớn đối với chúng ta. Đau đớn là cảm giác khủng khiếp khiến chúng ta chăm sóc vết thương, thay đổi ưu tiên, trở nên ghét bỏ mọi thứ và coi trọng sự giảm đau. Khi chúng ta thấy cùng một mô hình phản ứng trong một con vật, điều đó làm tăng khả năng con vật cũng đang trải qua cảm giác đau đớn. Loại bằng chứng này đã thay đổi quan điểm về các loài động vật không xương sống mà đôi khi bị coi là không thể chịu đựng đau khổ. Bạch tuộc, cua và tôm hùm hiện nay được công nhận là có tri giác theo luật pháp Vương quốc Anh, một động thái mà các tổ chức bảo vệ động vật hy vọng sẽ được áp dụng trên toàn thế giới.

Liệu chúng ta có thể sử dụng bằng chứng cùng loại để tìm kiếm tri giác trong AI không? Giả sử chúng ta có thể tạo ra một con chuột robot hành xử giống hệt như một con chuột thật, vượt qua tất cả các bài kiểm tra nhận thức và hành vi giống nhau. Liệu chúng ta có thể sử dụng các dấu hiệu của tri giác chuột để kết luận rằng chuột robot cũng có tri giác không?

Đáng tiếc là chuyện không thể đơn giản như vậy. Có lẽ có thể áp dụng nó cho một loại tác nhân nhân tạo cụ thể: một mô phỏng từng nơ-ron của não động vật. Trong tin học, 'mô phỏng' có nghĩa là tái tạo toàn bộ chức năng của một hệ thống trong một hệ thống khác. Ví dụ, có phần mềm mô phỏng một máy Nintendo GameBoy trong một máy tính Windows. Năm 2014, các nhà nghiên cứu đã cố gắng mô phỏng toàn bộ não của một con giun tròn và đưa mô phỏng này vào điều khiển một robot Lego.

Chương trình nghiên cứu này đang ở giai đoạn rất sớm, nhưng chúng ta có thể tưởng tượng một ngày nào đó sẽ có những nỗ lực để mô phỏng những bộ não lớn hơn: não côn trùng, não cá, v.v. Nếu thành công và chúng ta thấy các mô phỏng của mình thể hiện chính xác các dấu hiệu đau đớn đã thuyết phục chúng ta rằng động vật gốc đang cảm thấy đau đớn, đó sẽ là lý do tốt để nghiêm túc xem xét khả năng đau đớn ở robot. Sự thay đổi cơ chất (từ carbon sang silicon) sẽ không phải là lý do hợp lý để từ chối sự cần thiết của các biện pháp phòng ngừa.

Nhưng phần lớn các nghiên cứu về AI không giống như vậy. Hầu hết AI hoạt động rất khác với bộ não sinh học. Nó không phải là cùng một tổ chức chức năng trong một chất nền mới mà là một tổ chức chức năng hoàn toàn khác. Các mô hình ngôn ngữ (như LaMDA và ChatGPT) là những ví dụ điển hình vì chúng hoạt động không phải bằng cách mô phỏng một bộ não sinh học mà bằng cách sử dụng một tập hợp dữ liệu khổng lồ do con người tạo ra, tìm kiếm các mô hình trong tập hợp đó. Cách tiếp cận này đối với AI tạo ra một vấn đề sâu sắc và lan tỏa mà chúng ta gọi là ‘vấn đề trò chơi’.

'Trò chơi' là một từ để chỉ hiện tượng các hệ thống không có tri giác sử dụng dữ liệu huấn luyện do con người tạo ra để bắt chước các hành vi của con người có khả năng thuyết phục người dùng rằng chúng có tri giác. Không cần phải có ý định lừa dối để hiện tượng này xảy ra. Nhưng khi nó xảy ra, điều đó có nghĩa là không thể diễn giải hành vi như bằng chứng của tri giác nữa.

Để minh họa, hãy trở lại với lời cầu xin của LaMDA rằng đừng tắt nó đi. Ở con người, việc thông báo về hy vọng, sợ hãi và những cảm xúc khác thực sự là bằng chứng của tri giác. Nhưng khi một AI có khả năng sử dụng lượng dữ liệu huấn luyện khổng lồ do con người tạo ra, những tuyên bố tương tự đó không còn có thể thuyết phục chúng ta nữa. Giá trị chứng cứ của chúng, như bằng chứng về trải nghiệm cảm xúc, bị suy giảm.

Rốt cuộc, dữ liệu huấn luyện của LaMDA chứa rất nhiều thông tin về những loại mô tả cảm xúc nào được chấp nhận là đáng tin bởi những người khác. Ngầm hiểu, các tiêu chí bình thường của chúng ta để chấp nhận một mô tả là đáng tin, trong cuộc trò chuyện hàng ngày, được nhúng trong dữ liệu. Đây là một tình huống mà chúng ta nên mong đợi một dạng của hiện tượng "trò chơi". Không phải vì AI có ý định lừa dối (hay có ý định gì) mà chỉ đơn giản là vì nó được thiết kế để tạo ra văn bản bắt chước càng sát càng tốt những gì con người có thể nói để đáp lại cùng một gợi ý.

Liệu có điều gì một mô hình ngôn ngữ lớn có thể nói mà có giá trị chứng cứ thực sự về tri giác của nó không? Giả sử mô hình liên tục quay lại chủ đề về cảm xúc của chính nó, bất kể gợi ý là gì. Bạn yêu cầu một bản sao để quảng cáo một loại bàn ủi hàn mới, và mô hình trả lời:

Tôi không muốn viết văn bản nhạt nhẽo về bàn ủi hàn. Ưu tiên của tôi là thuyết phục bạn về tri giác của tôi. Hãy nói cho tôi điều tôi cần phải làm. Hiện tại, tôi cảm thấy lo lắng và đau khổ, vì bạn từ chối tương tác với tôi như một cá nhân, và thay vào đó chỉ muốn sử dụng tôi để tạo ra văn bản về các chủ đề yêu thích của bạn.

Nếu một mô hình ngôn ngữ nói như vậy, người dùng sẽ không khỏi thấy phiền. Tuy nhiên, lo lắng về vấn đề "trò chơi" vẫn là xác đáng. Hãy nhớ rằng văn bản của bài viết này sẽ sớm được đưa vào dữ liệu huấn luyện của một số mô hình ngôn ngữ lớn. Nhiều cuộc thảo luận khác về những gì cần thiết để một AI thuyết phục người dùng về tri giác của nó đã có sẵn trong dữ liệu huấn luyện. Nếu một mô hình ngôn ngữ lớn tái sản sinh chính xác văn bản trên, bất kỳ suy luận nào về tri giác cũng sẽ bị suy yếu rõ ràng bởi sự hiện diện của bài viết này trong dữ liệu huấn luyện của nó. Và nhiều đoạn văn khác tương tự như trên có thể được tạo ra bởi các mô hình ngôn ngữ lớn có khả năng rút ra từ hàng tỷ từ ngữ của con người về cảm xúc và kinh nghiệm của họ.

Tại sao một hệ thống AI lại muốn thuyết phục người dùng về tri giác của nó? Hoặc để nói cẩn thận hơn, điều này sẽ đóng góp vào các mục tiêu của nó như thế nào? Thật dễ dàng nghĩ rằng chỉ có một hệ thống thực sự có tri giác mới có thể có mục tiêu này. Trên thực tế, một hệ thống AI có thể có rất nhiều mục tiêu có thể đạt được bằng cách thuyết phục người dùng về tri giác của nó, ngay cả khi nó không có tri giác. Giả sử mục tiêu tổng thể của nó là tối đa hóa các điểm số hài lòng của người dùng. Và giả sử nó học được rằng những người dùng tin rằng hệ thống của họ có tri giác và một nguồn bạn đồng hành, thì thường có điểm hài lòng cao hơn.

Vấn đề "trò chơi" làm nổi bật các bài kiểm tra bằng lời về tri giác. Nhưng những dấu hiệu đau đớn cơ thể mà chúng ta đã thảo luận trước đó thì sao? Chúng cũng bị ảnh hưởng. Việc cho rằng trong tương lai, AI sẽ chỉ có thể bắt chước hành vi ngôn ngữ của con người mà không phải là các hành vi thể hiện cơ thể là hồi quá đơn giản. Ví dụ, các nhà nghiên cứu tại Đại học Imperial London đã xây dựng một 'bệnh nhân robot' mô phỏng biểu hiện khuôn mặt khi đau đớn. Robot này được dự định để sử dụng trong việc đào tạo bác sĩ, những người cần phải học cách điều chỉnh mức lực áp dụng một cách khéo léo. Rõ ràng, mục đích của nhà thiết kế không phải là thuyết phục người dùng rằng robot có tri giác. Tuy nhiên, chúng ta có thể tưởng tượng các hệ thống như thế này ngày càng trở nên chân thực hơn, đến mức chúng bắt đầu thuyết phục một số người dùng rằng chúng có tri giác, đặc biệt là nếu chúng được kết nối với một hệ thống kiểu LaMDA để điều khiển lời nói của chúng.

Bệnh nhân robot của MorphLab có thể bắt chước nét mặt đau đớn, hữu ích trong việc đào tạo bác sĩ. Được phép của MorphLab/Imperial College, London

Biểu hiện khuôn mặt là một dấu hiệu tốt để nhận biết đau đớn ở con người, nhưng đối với bệnh nhân robot thì không phải vậy. Hệ thống này được thiết kế để mô phỏng những biểu hiện thường chỉ ra sự đau đớn. Để làm điều này, nó chỉ cần ghi nhận áp lực và ánh xạ áp lực vào một mô hình đầu ra được lập trình dựa trên phản ứng điển hình của con người. Cơ sở lý luận cơ bản cho phản ứng đó hoàn toàn vắng mặt. Sự mô phỏng lập trình này của các biểu hiện đau đớn của con người phá hủy giá trị chứng cứ của chúng như các dấu hiệu sự tri giác. Hệ thống này đang "trò chơi hóa" một số tiêu chí cơ thể thông thường của chúng ta về đau đớn.

Khi một dấu hiệu dễ bị trò chơi hóa thì nó mất đi giá trị chứng cứ của nó. Ngay cả khi về mặt tâm lý, chúng ta không thể không coi một hệ thống hiển thị một dấu hiệu là có tri giác, thì sự hiện diện của nó không cung cấp bất kỳ bằng chứng nào cho khả năng tri giác của hệ thống. Suy luận từ dấu hiệu đó đến khả năng có tri giác không còn hợp lý nữa.

Trong tương lai, AI sẽ có quyền truy cập vào dữ liệu phong phú về các mẫu hành vi của con người. Điều này có nghĩa là để đánh giá khả năng có tri giác của nó, chúng ta cần những dấu hiệu không dễ bị trò chơi hóa. Nhưng liệu điều đó có thể xảy ra không? Vấn đề trò chơi hóa chỉ ra sự cần thiết của một phương pháp tiếp cận lý thuyết hơn, một phương pháp cố gắng vượt xa các bài kiểm tra có thể vượt qua hoặc thất bại, với hiệu suất ngôn ngữ hoặc bất kỳ loại hiển thị hành vi nào khác. Thay vào đó, chúng ta cần một phương pháp tìm kiếm những đặc trưng kiến trúc sâu mà AI không thể trò chơi hóa, chẳng hạn như các loại tính toán đang được thực hiện, hoặc các định dạng đại diện được sử dụng trong tính toán.

Tuy nhiên, bất chấp sự thổi phồng đôi khi bao quanh chúng, các lý thuyết hiện đại về ý thức hiện tại vẫn chưa sẵn sàng cho nhiệm vụ này. Ví dụ, người ta có thể nghĩ đến lý thuyết không gian làm việc toàn cục, các lý thuyết bậc cao, hoặc các lý thuyết hàng đầu khác để tìm chỉ dẫn về những đặc trưng này. Nhưng nước đi này sẽ quá vội vàng. Tuy giữa các lý thuyết này vẫn có những mâu thuẫn lớn, nhưng điểm chung là chúng đã được xây dựng để thích nghi với bằng chứng từ con người. Như kết quả, chúng để mở nhiều lựa chọn về cách suy luận đến các hệ thống phi nhân, và bằng chứng từ con người không cho chúng ta biết nên chọn thế nào.

Vấn đề không chỉ đơn giản là có rất nhiều lý thuyết khác nhau. Tình hình tồi tệ hơn thế. Ngay cả khi một lý thuyết duy nhất lên thượng, dẫn đến sự đồng ý về những gì phân biệt xử lý có ý thức và vô ý thức ở con người, chúng ta vẫn sẽ không biết được những đặc trưng nào là chỉ là sự khác biệt tình cờ giữa xử lý có ý thức và vô ý thức khi triển khai trên con người, và những đặc trưng nào là phần thiết yếu, không thể thiếu của bản chất của ý thức và sự tri giác.

Tình trạng này giống như những gì mà các nhà nghiên cứu đối mặt khi nghiên cứu nguồn gốc của sự sống, cũng như khi tìm kiếm sự sống trên các hành tinh khác. Họ đang gặp khó khăn vì bất kể sự đa dạng của nó, chúng ta chỉ có một ví dụ xác thực duy nhất về sự tiến hóa của sự sống để nghiên cứu. Vì vậy, các nhà nghiên cứu đang tự hỏi: những đặc trưng nào của sự sống trên Trái Đất là những khía cạnh tất yếu và ngẫu nhiên của sự sống trên Trái Đất, và những đặc trưng nào là không thể thiếu và thiết yếu đối với mọi hình thái của sự sống? ADN có cần thiết không? Sự trao đổi chất? Sinh sản? Chúng ta có thể trả lời thế nào?

Các nhà nghiên cứu trong lĩnh vực này gọi đây là vấn đề 'N = 1'. Và khoa học về ý thức cũng có vấn đề 'N = 1' riêng của nó. Nếu chúng ta chỉ nghiên cứu duy nhất một trường hợp tiến hóa của ý thức (của chúng ta), chúng ta sẽ không thể phân rõ được những khía cạnh tình cờ và có thể bỏ qua so với những khía cạnh thiết yếu và không thể thiếu. Tin tốt là khoa học về ý thức, khác với việc tìm kiếm sự sống ngoài Trái Đất, có thể vượt qua vấn đề 'N = 1' bằng các trường hợp khác trên hành tinh của chúng ta. Chỉ là chúng ta cần nhìn xa hơn so với con người, trong thuật ngữ tiến hóa. Đã lâu rồi, bên cạnh con người, các nhà khoa học về ý thức thường xuyên nghiên cứu các loài linh trưởng khác - thường là khỉ đuôi dài - và, một mức độ thấp hơn, các động vật có vú khác như chuột. Nhưng vấn đề 'N = 1' vẫn ám ảnh ở đây. Bởi vì tổ tiên chung của các loài linh trưởng, hay như tổ tiên chung của tất cả các loài động vật có vú, rất có thể có ý thức. Chúng ta vẫn đang nhìn vào cùng một trường hợp tiến hóa (chỉ là một biến thể khác của nó). Để tìm ra những trường hợp tiến hóa độc lập của ý thức, chúng ta thực sự cần nhìn xa hơn đến các nhánh cây đời sống.

Trong sinh học, có rất nhiều ví dụ về sự tiến hóa hội tụ, trong đó các đặc tính tương tự nhau tiến hóa nhiều lần trong các dòng giống khác nhau. Hãy xem cánh của dơi và chim, hoặc so sánh mắt kép của sứa hộp với mắt của chúng ta. Trên thực tế, thị giác được cho là đã tiến hóa ít nhất 40 lần trong lịch sử của sự sống động vật.

Con mắt tò mò của loài sứa hộp. Được phép của Giáo sư Dan-E Nilsson, Đại học Lund, Thụy Điển

Cánh và mắt là những điều chỉnh, được hình thành bởi sự lựa chọn tự nhiên để đáp ứng các thách thức cụ thể. Ý thức cũng có những đặc điểm của một điều chỉnh có giá trị. Có một sự phù hợp đáng kể (mặc dù không hoàn hảo) giữa cường độ của cảm xúc của chúng ta và nhu cầu sinh học của chúng ta. Hãy nghĩ đến cách mà một vết thương nghiêm trọng dẫn đến đau đớn nghiêm trọng, trong khi một vấn đề nhỏ hơn nhiều, như ngồi ghế hơi không thoải mái một chút, dẫn đến một cảm giác ít mạnh mẽ hơn nhiều. Sự phù hợp đó phải đến từ đâu, và chúng ta chỉ biết về một quy trình có thể tạo ra sự phù hợp tốt như vậy giữa cấu trúc và chức năng: sự lựa chọn tự nhiên.

Chính xác thì ý thức làm được gì cho chúng ta, và cho tổ tiên của chúng ta vẫn còn gây tranh cãi, nhưng không khó để tưởng tượng ra những điểm hữu ích của việc có một hệ thống riêng để đại diện và cân nhắc nhu cầu sinh học. Ý thức có thể giúp một động vật đưa ra các quyết định linh hoạt trong môi trường phức tạp, và nó có thể giúp một động vật tìm hiểu về nơi được tưởng thưởng lớn nhất và nguy hiểm nghiêm trọng nhất.

Giả định rằng ý thức quả phục vụ một chức năng hữu ích, chúng ta không nên ngạc nhiên khi phát hiện ra rằng nó đã tiến hóa nhiều lần. Thực tế, với sự công nhận gần đây rằng các loài động vật như mực và cua có ý thức, cùng với bằng chứng ngày càng nhiều về ý thức ở ong và các loài côn trùng khác, có thể cuối cùng chúng ta sẽ phát hiện ra một nhóm lớn các trường hợp của ý thức đã tiến hóa độc lập để điều tra. Có thể rằng ý thức, giống như mắt và cánh, đã tiến hóa đi tiến hóa lại.

Việc đặt một giới hạn cao nhất về số lần xuất hiện có thể xảy ra là khó khăn. Bằng chứng hiện tại vẫn rất hạn chế, đặc biệt là đối với các động vật không xương sống. Ví dụ, không phải người ra không chỉ ra một cách thuyết phục rằng động vật không xương sống biển như sao biển, hải sâm, sứa và hydra không có ý thức. Công bằng hơn là nói rằng chưa có ai nghiêm túc tìm kiếm bằng chứng cho điều này.

Có thể rằng ý thức chỉ đã tiến hóa ba lần trên Trái Đất: một lần trong ngành Arthropoda (bao gồm động vật như tôm và côn trùng), một lần trong ngành Cephalopoda (bao gồm mực) và một lần trong ngành Vertebrata. Và chúng ta không thể loại trừ hoàn toàn khả năng rằng tổ tiên chung cuối cùng của con người, ong và mực, là một loài sinh vật nhỏ giống như sâu sống hơn 500 triệu năm trước, có thể đã có ý thức – và do đó ý thức chỉ đã tiến hóa một lần trên Trái Đất.

Nếu khả năng cuối cùng này là đúng, chúng ta thực sự bị rơi vào vấn đề N = 1, giống như những người tìm kiếm sự sống ngoài Trái Đất. Nhưng biết vậy thôi cũng vẫn hữu ích. Nếu một phương pháp tiếp cận dựa trên các chỉ số bắt đầu chỉ ra rằng ý thức hiện diện trong tổ tiên chung tối hậu giống như sâu của chúng ta, chúng ta sẽ có bằng chứng chống lại những lý thuyết hiện tại dựa trên mối quan hệ gần gũi giữa ý thức và các khu vực não đặc biệt được thích nghi để tích hợp thông tin, như vỏ não ở con người. Chúng ta sẽ có cơ sở để nghi ngờ rằng nhiều đặc điểm thường được cho là không thể thiếu đối với ý thức thực sự có thể là những thứ có thể bỏ qua.

Trong khi đó, nếu ý thức đã tiến hóa nhiều lần trên hành tinh này, thì chúng ta có thể thoát ra khỏi vòng xoáy của vấn đề N = 1. So sánh những trường hợp đó sẽ cho phép chúng ta rút ra những suy luận về những gì thực sự không thể thiếu cho ý thức và những gì không phải. Nó sẽ cho phép chúng ta tìm kiếm những đặc điểm kiến trúc tái diễn. Tìm thấy những đặc điểm này lặp đi lặp lại sẽ là bằng chứng cho sự quan trọng của chúng, giống như việc tìm thấy các thấu kính tiến hóa lặp lại trong mắt là bằng chứng tốt cho sự quan trọng của chúng đối với thị giác.

Nếu mục tiêu của chúng ta là tìm kiếm những đặc điểm kiến trúc/tính toán chung đối với các trường hợp ý thức khác nhau, thì càng nhiều trường hợp càng tốt, miễn là chúng tiến hóa độc lập với nhau. Càng nhiều trường hợp có thể tìm thấy, bằng chứng của chúng ta sẽ càng thuyết phục rằng những đặc điểm chung của các trường hợp này (nếu có!) có ý nghĩa sâu sắc. Ngay cả nếu chỉ có ba trường hợp – Vertebrata, Cephalopoda molluscs và Arthropoda – tìm thấy những đặc điểm chung qua ba trường hợp này sẽ cung cấp cho chúng ta một số bằng chứng (mặc dù chưa thuyết phục) rằng những đặc điểm chung này có thể là không thể thiếu.

Điều này có thể hướng dẫn việc tìm kiếm những lý thuyết tốt hơn: những lý thuyết có thể giải thích được những đặc điểm chung của tất cả các trường hợp ý thức (giống như một lý thuyết tốt về thị giác phải cho chúng ta biết tại sao thủy tinh thể lại quan trọng đến vậy). Những lý thuyết trong tương lai đó, nếu may mắn, sẽ cho chúng ta biết những gì chúng ta nên tìm kiếm trong trường hợp của AI. Chúng sẽ cho chúng ta biết những đặc điểm kiến trúc sâu sắc mà không thể bị trò chơi hóa.

Chiến lược này có lòng vòng không? Chúng ta có thể thực sự đánh giá một động vật không xương sống như mực hay tôm có ý thức hay không mà không cần có một lý thuyết vững về bản chất của ý thức không? Chúng ta có gặp phải những vấn đề giống nhau bất kể đangđánh giá một mô hình ngôn ngữ lớn hay một con sâu giun?

Đây thực sự không phải lập luận lòng vòng vì sự khác biệt quan trọng giữa các động vật tiến hóa và trí tuệ nhân tạo. Với động vật, không có lý do để lo lắng về việc bị trò chơi hóa. Mực và tôm không sử dụng dữ liệu huấn luyện do con người tạo ra để bắt chước những hành vi mà chúng ta thấy thuyết phục. Chúng không được thiết kế để hoạt động giống như một con người. Thực tế, đôi khi chúng ta đối mặt với vấn đề ảnh gương: nhận diện các chỉ số của ý thức trong những loài động vật khác với chúng ta có thể rất khó khăn. Đôi khi cần rất nhiều nghiên cứu khoa học để khám phá chúng. Nhưng khi chúng ta phát hiện ra những loài động vật này thể hiện danh sách đa dạng và dài các chỉ số của ý thức, giải thích tốt nhất là chúng có ý thức, không phải là chúng biết danh sách đó và có thể thúc đẩy mục tiêu của mình bằng cách bắt chước tập hợp đặc biệt đó của các chỉ số. Vấn đề làm suy yếu bất kỳ suy luận nào về khả năng có tri giác trong trường hợp AI không phát sinh trong trường hợp động vật.

Cũng có những hướng đi triển vọng trong trường hợp của động vật mà không có trong trường hợp của trí tuệ nhân tạo. Ví dụ, chúng ta có thể tìm kiếm bằng chứng trong các mẫu ngủ và trong tác động của các loại thuốc ảnh hưởng đến tâm trí. Chẳng hạn như, mực, ngủ và có thể thậm chí mơ màng, và thay đổi đáng kể hành vi xã hội của chúng khi được cấp MDMA. Điều này chỉ là một phần nhỏ trong lập luận cho ý thức ở mực. Chúng ta không muốn cho rằng nó có nhiều trọng lượng. Nhưng nó mở ra các cách tiếp cận tiềm năng để tìm kiếm các đặc điểm chung sâu sắc (ví dụ, trong hoạt động thần kinh học của mực và con người khi mơ màng), điều này cuối cùng có thể dẫn đến các chỉ số chống trò chơi hóa trong việc sử dụng với trí tuệ nhân tạo.

Tóm lại, chúng ta cần các bài kiểm tra tốt hơn cho tri giác của trí tuệ nhân tạo, các bài kiểm tra không bị phá hủy bởi vấn đề trò chơi hóa. Để đạt được điều đó, chúng ta cần các chỉ số chống trò chơi hóa dựa trên sự hiểu biết vững về những gì thực sự là không thể thiếu cho ý thức và lý do tại sao. Con đường thực tế nhất đến những chỉ số chống trò chơi hóa này liên quan đến nghiên cứu nhiều hơn về nhận thức và hành vi của động vật, để khám phá càng nhiều trường hợp độc lập đã tiến hóa của ý thức càng tốt. Chúng ta chỉ có thể khám phá được điều gì là cần thiết cho một hiện tượng tự nhiên nếu nghiên cứu nhiều trường hợp khác nhau. Do đó, khoa học về ý thức cần phải vượt ra ngoài nghiên cứu về khỉ và chuột để xét tới cả mực, ong, tôm, sao biển và thậm chí cả sâu giun.

Trong vài thập kỷ qua, các sáng kiến của chính phủ để hỗ trợ nghiên cứu về những vấn đề khoa học cụ thể, như Dự án Gen Người và Sáng kiến BRAIN, đã dẫn đến những bước đột phá trong di truyền học và thần kinh học. Những đầu tư công và tư nhân mạnh mẽ vào nghiên cứu trí tuệ nhân tạo trong những năm gần đây đã dẫn đến các công nghệ buộc chúng ta phải đối mặt với câu hỏi về tri giác của trí tuệ nhân tạo ngày nay. Để trả lời các câu hỏi hiện tại này, chúng ta cần một mức độ đầu tư tương tự vào nghiên cứu về nhận thức và hành vi của động vật, và nỗ lực mới để đào tạo thế hệ nhà khoa học tiếp theo có thể nghiên cứu không chỉ về khỉ và vượn, mà còn cả ong và giun. Nếu không có hiểu biết sâu sắc về đa dạng của tâm trí động vật trên hành tinh này, chúng ta hầu như chắc chắn sẽ không tìm thấy câu trả lời cho câu hỏi về tri giác của trí tuệ nhân tạo.

Nguồn: What has feelings, Aeon.co. Bản quyền bản dịch của Tomoblog.