MIT의 언어 모델 도전: 복잡한 계획 문제 해결
매사추세츠 공과대학교(MIT)의 연구팀이 대규모 언어 모델(LLM)을 활용해 복잡한 계획 문제를 해결하는 새로운 프레임워크를 개발했습니다. 이 연구는 LLM이 자연어로 문제를 설명할 수 있도록 하여 최적의 해결책을 제시하는 ‘스마트 어시스턴트’ 역할을 합니다. MIT 뉴스의 아담 제우에 따르면, 이 혁신적인 접근 방식은 언어 모델이 인간처럼 문제를 이해하고 단계적으로 해결할 수 있는 방법을 제공합니다.
MIT의 연구팀은 커피 회사가 공급망을 최적화하는 예시를 통해 LLM의 활용성을 설명합니다. 이 회사는 세 곳의 공급자로부터 커피 원두를 조달하고, 두 개의 로스팅 시설에서 각기 다른 커피를 만들어 세 곳의 소매점에 배송합니다. 이 과정에서 연구팀은 LLM이 복잡한 계획을 인간과 유사하게 단계적으로 접근할 수 있도록 안내하는 방법론을 개발했습니다. “우리는 이 프레임워크가 다양한 계획 문제에 적용할 수 있도록 하는 강력한 도구,”라고 MIT 정보를 기반으로 한 결정 시스템 연구소의 대학원생이자 논문 주 저자였던 이룬 하오가 설명합니다.
문제 해결의 새로운 접근 방식
기존의 LLM들은 어려운 계획 문제에 직접적으로 접근하는 데 어려움을 겪었습니다. 대신 MIT 연구팀은 LLM을 문제 해결 도구로서 재구성하는 접근 방식을 선택했습니다. 해당 프레임워크는 사용자가 자연어로 문제를 서술하면 LLM이 이를 최적화 솔버가 이해할 수 있는 형식으로 변환합니다. LLM이 문제를 풀기 위해 담보하는 과정에서 여러 중간 단계를 확인하고, 잘못된 부분이 발견되면 수정할 수 있도록 합니다.
연구팀은 이 프레임워크를 통해 아홉 가지 복잡한 문제를 테스트했으며, 총 85%의 성공률을 기록했습니다. 이는 기존의 최선 모델이 달성한 39% 성공률에 비해 놀라운 성과입니다. 이를 통해 연구팀은 LLMFP(LLM 기반 정식화 프로그래밍) 프레임워크가 다양한 계획 작업에 실패 없이 활용될 수 있음을 보여주었습니다.
비전통적인 문제 해결 방식
이 프레임워크는 항공사 승무원 스케줄링, 공장 기계 관리 등 다양한 분야에 적용할 수 있습니다. 이 연구팀의 알고리즘은 결합 최적화 문제를 해결하는 데 초점을 맞추고 있으며, 이를 통해 사용자들은 복잡한 최적화 문제에 대한 경계를 허물고, 기존에 비해 상대적으로 더 직관적인 방식으로 문제를 해결할 수 있게 됩니다.
하오 연구생은 “이 프레임워크는 다양한 요구를 충족시키기에 적합한 최상의 계획을 찾아낼 수 있습니다,”라고 덧붙였습니다. 이를 통해 LLM이 사용자 특성에 따라 최적화의 우선순위를 조정할 수 있으며, 이전에는 생각하지 못했던 문제 해결 방안을 제시할 가능성이 열립니다.
자체 평가를 통한 개선
LLMFP는 제출된 계획을 자체 평가하여 최적화를 보장합니다. 예를 들어, 커피숍의 공급망 최적화 문제에서는 LLM이 불가능한 개념인 음수 물량 배송을 인지하지 못할 수 있습니다. 이 경우 LLM이 문제를 인지하고 수정할 수 있는 단계가 포함되어 있습니다. 이 연구팀은 LLM이 자신이 놓친 제약 조건을 추가할 수 있도록 알림 기능을 포함했습니다.
연구팀은 향후 LLMFP가 이미지 입력을 활용할 수 있도록 발전시키며, 자연어로는 설명하기 어려운 문제 해결을 가능케 할 것입니다. 이를 통해 더욱 복잡한 계획과 개선된 계획을 추구할 수 있을 것입니다.
미래를 향한 기대
이 연구는 해양 연구 과학자들과 MIT-IBM 왓슨 AI 연구소의 지원으로 진행되었습니다. 연구팀은 사람의 언어를 이해하고 올바른 프로젝트 출력을 보장하기 위한 LLM의 역할을 발전시키고 있습니다. 연구자들은 LLMFP 프레임워크가 문제 해결 과정의 새로운 패러다임을 제시할 것을 희망하고 있으며, 이는 다양한 사회적 도전에 효과적으로 대응할 수 있는 능력을 갖추게 할 것입니다.
LLMFP는 일반 사용자가 고급 최적화 문제를 직관적으로 다룰 수 있는 기회를 제공하며, 소프트웨어 사용 경험이 없는 이들도 문제 해결을 가능하게 하는 혁신적인 도구로 자리잡고 있습니다. 이러한 혁신은 향후 기업 및 여러 연구 분야에 응용될 것으로 기대됩니다.