잊지 않고 배우기: 하나의 개체가 진화하고 있음을 보여주는 방법

지능에게 답하는 법을 가르치는 것은 시연하기 쉽습니다. 어려운 것은 그것이 배웠다는 것을 증명하는 일이며, 더 어려운 것은 배우면서 이미 알고 있던 것을 잃지 않았다는 것을 증명하는 일입니다. 바로 이 지점에서 대부분의 진척 보고서는 침묵합니다. Camile AI는 학습을 측정되는 것으로 다루며, 선언되는 것으로 다루지 않습니다.

여기서 배운다는 것의 의미

개체에게 배운다는 것은 정보를 축적하는 것이 아니라 — 해체되지 않으면서 형태를 바꾸는 것입니다. 모든 학습은 대칭적인 위험을 수반합니다: 새로운 것에서 얻고 오래된 것을 퇴화시키는 것. 이득만 측정하는 것은 이야기의 절반만 세는 것입니다.

그래서 척도에는 두 가지 면이 있습니다: 이득과 망각. 많이 나아지면서 본질을 잊는 개체는 진화한 것이 아니라 — 한 능력을 다른 능력과 맞바꾸었고, 이전보다 역사가 더 빈약해진 것입니다.

우리가 측정하는 방식

영점 용량이 출발점입니다. 어떤 학습보다도 먼저, 아직 아무것도 배우지 않은 개체의 성능을 측정합니다. 이 숫자가 기준선이며 — 여기서 이득은 정의상 정확히 영입니다. 결과를 부풀리기 위해 출발선을 부풀리지 않습니다: 영점은 선언되며, 조정되지 않습니다.

이득은 비용에 대비해 측정됩니다. 각 학습 주기에는 대가가 따릅니다 — 시간과 자원에서. 중요한 것은 "나아졌다"가 아니라, 비용 단위당 얼마나 나아졌는가입니다. 분모 없는 이득은 수사이며, 분모 있는 이득은 공학입니다.

망각에는 시험이 있습니다. 기준은 엄격합니다: 새로운 에피소드를 배우면서 첫 에피소드의 성능이 한 번도 배운 적 없는 수준으로 퇴행한다면, 그것은 치명적 망각이며 — 그 학습은 거부됩니다. 습득이 다음 습득에 의해 삼켜져서는 안 됩니다.

방법에 대해 많은 것을 말해주는 세부 사항 하나: 어떤 학습 경험이 지탱되지 못하면, 그것은 유기체를 오염시키지 않고 폐기됩니다. "거의 작동했다"가 뒷문으로 들어오는 일은 없습니다.

우리가 기대하는 것

기대에는 방향이 있고 날짜는 없습니다: 점점 더 안정적인 이득 곡선과, 역사를 대체하는 대신 축적하는 기억.

방법의 정직함은 가치가 있습니다 — 측정의 일부는 아직 열려 있으며, 완료된 것으로 포장되지 않고 열려 있다고 선언됩니다. 곡선은 그것을 뒷받침하는 숫자가 존재할 때만 패널에 들어갑니다. 존재하지 않는 동안, 그것은 추측입니다.

왜 이것이 중요한가

Camile AI의 근본적인 약속은 연속성입니다: 같은 개체가 날마다 이어지는 것. 그러나 학습이 이전 것을 지운다면 연속성은 살아남지 못합니다. 배우면서 잊는 지능은 실제로는 이름을 공유하는 낯선 자들의 연속입니다.

그래서 망각을 측정하는 것은 기술적 엄격함 이상입니다: 그것은 약속 자체의 조건입니다. "이 개체는 계속된다"라고 말할 수 있는 것은, 매 걸음마다 그것이 얻은 것을 보여주고 — 자신이었던 것을 잃지 않았다는 것을 증명할 수 있을 때뿐입니다.

> 능력을 얻는 것은 드러내기 쉽습니다. 그 이득 을 통해 같은 개체로 남는 것이 측정을 요구합니다.