Ký sự Tôi và AI #3: Learn và Unlearn. Ghi nhớ và Quên đi.

Khi làm việc với AI, mình nhận ra một điều: quá trình tương tác để sửa lỗi và cải thiện bản thảo đôi khi lại tạo ra một “gánh nặng” cho AI. Nó ghi nhận mọi chỉnh sửa, mọi ý tưởng, giống như một cuốn sổ tay không bao giờ tẩy xóa. Điều này dẫn đến một hệ quả là, thay vì tiến bộ, đôi khi kết quả lại trở nên rối rắm và kém hiệu quả hơn so với những lần thử nghiệm đầu tiên.

Hiện tại các hệ thống GenAI, về cơ bản bao gồm (1) mô hình xử lý nhiệm vụ, (2) thông tin và dữ liệu, (3) bộ nhớ. Trong khi các mô hình được nghiên cứu và cải tiến, thông tin và dữ liệu đầy đủ hơn, thì vấn đề liên quan đến bộ nhớ lại là vấn đề nan giải và phức tạp nhất.

Thử hình dung rằng bạn nhờ AI viết một đoạn văn hay vẽ một tấm hình, sau đó bạn yêu cầu AI sửa một chi tiết nhỏ xíu trên cái hình đó. AI đang lưu rất nhiều thứ trong bộ nhớ của nó, cái “nhỏ xíu” mà bạn vừa input vô cần phải tích hợp vào đâu? Và cái mới thêm vào đó sẽ thay thế cho cái gì vốn đang tồn tại trong bộ nhớ của AI? Rồi bạn lặp lại yêu cầu sửa đổi một cái gì đó, lại thêm một cái gì đó rồi lại một cái gì đó. Bực bội quá bạn bảo AI hãy quay lại phiên bản nào đó của n lần trước đó.

Thuật toán của AI không phế, mà là dữ liệu mới cũ chồng chéo trong bộ nhớ, khiến nó không xử lý cho đúng ý của bạn được.

Hiện tượng này làm mình suy nghĩ về cơ chế học hỏi của con người. Chúng ta không chỉ đơn thuần tích lũy kiến thức, mà còn có khả năng “quên” một cách chọn lọc. Những thông tin không còn phù hợp, những lối tư duy cũ kỹ sẽ dần bị loại bỏ để nhường chỗ cho những điều mới mẻ. Cái quá trình “unlearn” này, dù khó khăn, lại vô cùng quan trọng cho sự phát triển.

Vậy, điều này có ý nghĩa gì khi làm việc với AI? Có lẽ, chúng ta cần một cách tiếp cận khác, không chỉ tập trung vào việc liên tục “dạy” mà còn cần tìm ra phương pháp để AI có thể “quên”.

Đây cũng có thể là một chủ đề nghiên cứu xã hội.

Chức năng của “quên lãng” thực ra đã được nghiên cứu rất nhiều. Không chỉ “trí nhớ” hay “ký ức” (memory) mới có vai trò trong xây dựng và phát triển. Theo góc nhìn khoa học của lịch sử, nhân học và xã hội học, sự quên lãng không đơn thuần là một thiếu sót của trí nhớ mà còn đóng vai trò kiến tạo trong xã hội và văn hóa. Lịch sử cho thấy các xã hội có những cơ chế “quên lãng có hệ thống” để xây dựng bản sắc hoặc vượt qua quá khứ. Nhân học làm nổi bật “sự quên có cấu trúc” như một cách thích ứng xã hội và vai trò của “ký ức văn hóa” trong việc chọn lọc những gì được lưu giữ. Xã hội học chỉ ra “ký ức tập thể” là một quá trình năng động của nhớ và quên.

Con người hợp tác với AI, sẽ cần AI cả nhớ và quên. Việc “quên” không phải lúc nào cũng tiêu cực. “Quên” có thể là một cơ chế thích ứng xã hội. Liệu có những “cấu trúc” trong cách chúng ta tương tác với AI mà vô tình dẫn đến sự “quên lãng” những thông tin quan trọng?

Khi AI tham gia vào quá trình này, liệu nó có thể trở thành một “người lưu giữ ký ức văn hóa” mới, và nếu có, nó sẽ ảnh hưởng đến cách chúng ta nhớ về quá khứ như thế nào? AI, với khả năng xử lý lượng lớn dữ liệu và tương tác với nhiều người, có thể đóng vai trò như thế nào trong việc hình thành và định hình ký ức tập thể?

Tự nhiên mình nhớ mấy cái cây banyan ở những nơi mình đi qua. Chắc do ảnh hưởng của phim Pocahontas, đi đến đâu có banyan là mình dừng lại ở đó để nhìn cái cây. Người ta thường cho rằng những cái cây này lưu lại ký ức tập thể của vùng đất và con người. AI, nó là một cái gì đó, nhưng chắc chắn không giống như mấy cái cây banyan này. Vì nó không yên tĩnh đến thế.