지난호 보기
DX Awards 2025 수상자 리뷰

강화학습 에이전트를 활용한 조선소 의장 안벽 생산계획 자동화 시스템

글 : 백지원 (서울대학교) / baekjiwon@snu.ac.kr

조회수129

1. 소프트웨어 개발 목적 및 배경


그림 1. 조선소 안벽 생산계획 문제의 특징 및 연구개발 기술 특징

안벽 배치 계획(Quay Scheduling)은 선박 건조 단계 중에 진수 이후부터 인도 전까지 수행되는 스케줄링 과정이며 의장 작업의 시작일과 작업 장소인 안벽을 할당하는 단계이다. 안벽은 길이, 수심, 설비 조건이 모두 달라 모든 선박이 모든 안벽에서 작업할 수 없다. 특정 안벽 공정은 일부 안벽에서만 가능하며 동일한 공정이라도 안벽마다 설비의 종류가 다르므로 작업 효율 또한 달라지게 된다. 따라서 여러 선박을 대상으로 적재적소의 안벽을 배치하는 것이 비용적으로, 납기 준수를 위해서 매우 중요하다고 할 수 있다. 현재 조선소에서는 작업자의 경험과 암묵적 규칙에 의존해 수작업으로 안벽 배치 계획을 세우고 있다. 하지만 수작업의 안벽 배치 계획 수립은 많은 시간이 소요되며 한정된 경우만 고려하므로 최적의 계획을 찾기 어렵다는 문제가 있다.
이러한 배경에서, 본 소프트웨어에서는 강화학습 및 이종 그래프(Heterogeneous Graph)를 활용하여 에이전트가 DES(Discrete Event Simulation)의 시뮬레이션 환경과 상호작용하면서 최적 배치 정책을 학습하도록 한다. 이를 통해 선박이 안벽에 할당되지 못하는 기간(미배치 기간)을 최소화하여 일정 지연을 방지(납기 준수)하며 선박 이동 횟수를 줄여 시간 및 비용 소모 최소화(비용 절감), 안벽별 선호도 등급을 고려, 고효율 안벽에서 작업이 수행되도록 최적화(작업 효율 향상)하는 데 기여하고자 하였다. 그리고 수작업 기반 안벽 배치 계획에 대비하여 강화학습 기반 안벽 배치 계획을 수립함으로써 전문 안벽 배치율, 선박 이동횟수, 미배치 기간이라는 3가지 지표 관점에서 더 우수함을 실험적으로 검증하여 조선소 안벽 계획의 자동화와 지능화의 가능성을 보여주고, 향후 더 복잡한 계획 문제에도 적용할 수 있는 기초를 마련하고자 하였다.

2. 소프트웨어 세부 개발 요소
본 소프트웨어는 1) 의장 안벽 생산계획 수립을 위한 강화학습 에이전트와, 2) 생산계획 가시화를 위한 Unity 기반 시뮬레이션 비교 모듈 2가지로 구성되어 있다. 그 중에서도, 강화학습 에이전트의 설계 요소를 ① 상태 표현 및 ② 확률 계산 모듈로 나누어 볼 수 있다. 

그림 2. 강화학습 에이전트의 학습 환경 및 상태 표현 모듈

먼저 상태 표현 모듈은 그래프 기반 상태 인코딩 기법을 기반으로 하여, 계획 대상 안벽과 각 선박의 의장 작업을 노드로 하고 동일 선박 내 의장 작업 간 선후행 관계를 엣지로 표현한 그래프 형태로 현장 상태를 표현한다. 이때 안벽 노드에는 점유 상태, 가용 시점 등의 정보가, 의장 작업 노드에는 작업 기간, 선점 조건 유형 등의 정보가 특성 벡터 형태로 할당된다. 또한 특정 선박을 특정 안벽에 배치할 경우 예상되는 선박 이동 발생 여부와 전문 안벽 배치 여부를 사전 계산한 정보를 보조 행렬로 제공하여, 각 배치 결정이 계획 성과에 미치는 즉각적 영향을 고려할 수 있도록 설계하였다.

그림 3. 강화학습 에이전트의 확률 계산 모듈

확률 계산 모듈은 실질적으로 에이전트가 의사결정을 내리는 부분으로, 각각 표현 학습 모듈(representation module), 집계 모듈(aggregation module), 출력 모듈(output module) 로 구성되어 있다. 이를 통해 에이전트가 현재 후보로 가능한 다양한 안벽 배치 결정을 각각 선택할 확률 분포를 계산하고, 현재 상태의 가치를 추정한다. 최종적으로 에이전트는 이 확률 분포에 따라 안벽 배치를 결정하며, 가치 추정 시 발생하는 오차를 계산하여 정책을 지속적으로 개선한다.

그림 4. Unity 기반 시뮬레이션 인터페이스

또한 본 소프트웨어는 학습된 안벽 배치 계획 모델을 사용자가 Unity로 개발된 Simulator에서 구동하고 여러 휴리스틱과 비교 및 시뮬레이션을 진행할 수 있도록 UI/UX 인터페이스가 포함되어 있다. 사용자는 시뮬레이션 화면을 통해 각 선박의 안벽 배치, 작업 진행 상황, 대체 시나리오 등을 시각적으로 비교·분석할 수 있다. 이러한 인터페이스는 계획 수립 담당자뿐 아니라 경영진·현장 관리자 등 다양한 이해관계자들이 동일한 정보를 공유하고 의사결정에 참여할 수 있도록 지원하여, 본 소프트웨어의 실제 현장 적용성을 크게 향상시킬 수 있을 것으로 기대된다.

3. 본 소프트웨어의 실용성 및 독창성
본 소프트웨어의 강화학습 알고리즘에서는 안벽 간 이동 횟수, 선박의 작업별 특성에 맞는 전문 안벽 배치 여부, 작업 지연 여부 세 가지 목적함수를 비용(cost)이라는 단일 지표로 통합하여, 상충되는 다중 목표를 일관성 있는 방식으로 최적화할 수 있는 프레임워크를 구축하였다. 이와 같은 접근은 조선소 현장에서 실제로 요구되는 경제성·효율성 판단을 직접적으로 반영할 수 있다는 점에서 의의가 있을 것으로 보인다.
또한, 작업 도중 중단과 재시작이 가능한 프로세스, 선박별로 특정 안벽에 대한 선호도가 존재하는 상황 등 실제 조선소에서 빈번히 발생하는 조건들을 모델에 세밀하게 반영하여 현장 적용 가능성을 충분히 담보하는 수준으로 문제를 정의하고 솔루션을 제공할 수 있도록 하였다. 

4. 소프트웨어의 활용 방안 및 기대 효과
조선소 의장 안벽 생산계획은 선박의 대형화, 공정 간 상호 의존성, 안벽별 작업 제약 등으로 인해 매우 복잡한 최적화 문제로 분류된다. 본 소프트웨어는 이러한 현실적 제약 조건을 정량적으로 반영하고 문제를 수학적으로 정식화함으로써, 기존 경험적 방식에 의존하던 계획 수립 과정을 체계적이고 재현 가능한 방식으로 전환하는 데 기여할 수 있을 것으로 보인다. 
특히 본 소프트웨어는 계획 수립 과정과 결과를 직관적으로 이해할 수 있도록 Unity 기반의 3D 시뮬레이션 UI/UX를 제공한다. 사용자는 시뮬레이션 화면을 통해 각 선박의 안벽 배치, 작업 진행 상황, 대체 시나리오 등을 시각적으로 비교·분석할 수 있다. 이러한 인터페이스는 계획 수립 담당자뿐 아니라 경영진·현장 관리자 등 다양한 이해관계자들이 동일한 정보를 공유하고 의사결정에 참여할 수 있도록 지원하여, 본 소프트웨어의 실제 현장 적용성을 크게 향상시킬 수 있을 것으로 기대된다.

사단법인 한국CDE학회(구 한국CAD/CAM학회)
(06130) 서울시 강남구 테헤란로7길 22, 한국과학기술회관 1관 909호 | Tel: 02-501-6862 | Fax: 02-501-6863 | E-mail: info@cde.or.kr

대표이사: 정현 / 사업자등록번호: 220-82-60063

Copyright© 2023. Society for Computational Design and Engineering. All rights