LLM

LLM 노드는 언어 모델에 프롬프트를 전송하고 생성된 텍스트를 반환합니다. 콘텐츠 요약, 데이터 분류, 텍스트 변환, 질문 답변 또는 AI 생성 출력이 유용한 모든 작업을 수행하는 데 사용합니다.

구성

필드	필수	설명
프롬프트	예	언어 모델에 전송할 프롬프트. @를 입력하여 이전 단계의 변수를 삽입합니다.
모델	아니요	처리에 사용할 언어 모델. 드롭다운에서 선택합니다.
시스템 프롬프트	아니요	모델의 동작과 역할을 정의하는 시스템 수준 지침. @를 입력하여 변수를 삽입하거나 지침을 직접 입력합니다.
온도	아니요	출력의 무작위성을 제어합니다. 0 = 결정적, 1 = 매우 무작위. 기본값은 0.7입니다.
최대 토큰	아니요	응답의 최대 토큰 수. 범위는 1-32000입니다. 기본값은 1000입니다.

결과

결과 탭은 노드 실행 후 모델의 생성된 응답을 표시합니다.

참고

• 시스템 프롬프트를 사용하여 페르소나를 설정하거나 모델의 동작을 제한합니다(예: "금융 질문에만 답변하는 유용한 어시스턴트입니다.").
• 낮은 온도 값은 더 일관되고 집중된 출력을 생성합니다. 높은 값은 더 창의적이거나 다양한 응답을 생성합니다.
• 더 긴 출력을 위해 최대 토큰을 늘리거나 응답 길이를 제한하고 토큰 사용량을 줄이기 위해 줄입니다.