AI 에이전트가 자체 프로그래밍 가능하도록하는 데 필요한 구성 요소는 무엇입니까?


9

AI 에이전트는 종종 "센서", "메모리", "기계 학습 프로세서"및 "반응"구성 요소를 갖는 것으로 생각됩니다. 그러나 이러한 머신이 반드시 자체 프로그래밍 AI 에이전트가되는 것은 아닙니다. 위에서 언급 한 부분 외에도 머신이 자체 프로그래밍 AI 에이전트가 될 수 있도록하는 데 필요한 다른 요소 나 세부 사항이 있습니까?

예를 들어, 2011 년의 논문 은 지능을 최대화하는 최적화 문제를 해결하는 것이 아래에 인용 된 것처럼 자체 프로그래밍 프로세스의 필수 기능이라고 선언했습니다.

시스템은 "인지 인프라"의 일부 요소에 대해 학습 할 때 자체 프로그래밍의 인스턴스를 수행한다고하며, 후자는 시스템의 "지능형 임계"기능의 퍼지 세트로 정의됩니다. 시스템 특징의 지능 임계는 "특징 품질"로서 정의되며, 다중 특징 시스템의 지능을 최대화하는 최적화 문제를 해결하는 관점에서 고려된다.

그러나 "지능 최적화"에 대한이 설명은 모호합니다. 누구나자가 프로그래밍 에이전트에 필요한 구성 요소를 명확하게 정의하거나 더 잘 요약 할 수 있습니까?

이 질문은 UID가 23 인 2014 비공개 베타에서 비롯된 것입니다.


3
다음은 자체 최적화에 대한 마지막 단어입니다. arxiv.org/abs/cs/0309048
NietzscheanAI

잃어버린 베타 버전에서 잃어버린 좋은 콘텐츠 의 부흥에 감사드립니다 . :-)
peterh-Reinstate Monica

답변:


5

최고 수준에서 필요한 것은 이미 논의 된 다양한 시스템이 코드 객체를 통합하는 것입니다. 형식화 된 텍스트 객체를 기반으로 소스 코드 / 모델 아키텍처를 해석 할 수 있고 유용한 ML 모델이 있다는 점에서이를 이해하고 반응에 따라 코드를 변경하면 자체 프로그래밍 할 수 있습니다.

즉, 재귀 적으로 개선되는 지능의 기본 루프는 간단합니다. 자체를 검사하고 새 버전을 작성한 다음 새 버전을 검사하여 새 버전을 작성합니다.

어려운 구성 요소는 낮은 수준에 있습니다. 우리는 '센서'와 같은 새로운 개념을 발명 할 필요가 없습니다. 우리가해야 할 일은 개선을 감지하고 작성하기에 충분히 코드를 이해하는 작업과 동일한 매우 정교한 센서를 만드는 것입니다.


2
자신의 코드를 이해하는 시스템에 대한 진술에 대한 무질서한 컴퓨터 과학 반응은 종종 멈춤 문제를 인용하는 것이지만, AI 접근법에는 다음 과 같이 말하는 것이 유용한 것으로 밝혀졌습니다 . cs.stackexchange.com/questions/62393/ …
NietzscheanAI

3
그렇습니다. Halting Problem은 가능한 모든 코드 를 완전히 이해하기 위한 끊임없는 정리 이지만 실제로 접하는 대부분의 코드를 잘 이해하는 것을 막지는 않습니다.
Matthew Graves

실제로 정지 문제는 실제로 존재할 수없고 (예를 들어 무제한 메모리를 위해 무한 테이프가 필요함) 무한 시간 동안 실행할 수있는 순수한 수학적 구성 인 '선삭 기계'에만 실제로 적용됩니다. 실제 컴퓨터에는 메모리 용량이 제한되어 있습니다. 공식적으로 확인할 수있는 소프트웨어를 작성하는 방법이 있습니다 (Idris, Coq). 종속 유형 사용 배열의 크기를 제한하십시오 (예 : <양 또는 램). 프로그램이 공식적인 증거를 위반할 수있는 방식으로 메모리에서 스스로 수정하는 것을 허용하지 않습니다. 무한 루프가 없습니다. 바이트 루프 / 0으로 나누지 않습니다. 기타 ...
David C. Bishop
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.