2.1 재료 데이터 생성

모델 학습에 사용된 소재는 AA6061합금의 물성을 적용하였으며, 먼저 10×10×10의 RVE를 나타내는 결정 방향 데이터를 생성하였다. 생성하는 결정 방향 데이터에는 소재를 구성하는 집합조직의 비율적 특성을 반영하기 위해 7가지 집합조직(cube, r-cube, goss, r-goss, brass, copper, s)의 비율을 고려하였다. 각 집합조직의 비율은 알루미늄 합금의 91% 냉간 압연 시 나타나는 집합조직 비율을 참고하여 설정하였다[¹⁷]. 이 과정에서 각 집합조직의 최대 및 최소 비율을 문헌 기반으로 정리하였다(표 1). 이후 범위 내 모든 집합조직 비율에 대한 예측을 수행하기 위해 각 7개의 집합조직 최대-최소 비율을 5% 내외의 등간격으로 나눈 비율을 사용하여 해석을 진행하였다. 소재를 구성하는 총 집합조직의 비율이 86.4%(remainder>13.6%)를 초과하는 경우를 제외하고, 총 3241개의 집합조직 비율 조합을 얻을 수 있었다. 각 비율 조합에 대한 결정 방향 데이터는 3개의 오일러 각을 사용하여 표현되었으며, 표 2에 정리하였다. 각각의 오일러 각은 실제와 유사한 형태를 묘사하기 위해 표준편차가 2°인 정규분포를 적용한 편차를 부여하며 방위 공간에 분포시켰으며, 초기 정규분포를 적용한 각 집합조직의 방위 공간에서의 분포를 그림 2에 나타내었다. 7개의 주요 집합조직에 할당되지 않은 나머지 데이터의 경우, 초기 연구 단계에서는 랜덤 분포 방식으로 처리하였으나, 데이터 세트의 크기가 작아 모델 학습 과정에서 편향이 발생하였다. 이에 따라 방위 분포함수에 영향을 미치는 문제가 발생하였으며, 이를 해결하기 위해 균일 분포 방식으로 데이터를 처리하였다. 그 결과, 학습 과정에서 편향되는 문제가 해소되었으며 방위 분포함수의 결과에 대한 영향을 최소화할 수 있었다.

FLD 데이터는 결정 소성 유한요소 모델과 M-K 모델을 결합한 가상 성형 시험 모델을 통해 계산하였다. 그림 3 (a)는 FLD 분석을 위한 CPFEM-MK 모델을 보여준다. 외측 영역(RVE-A)과 홈 영역(RVE-B)을 나타내는 두 개의 RVE가 고려되며, RVE-B의 홈 두께는 다음과 같이 정의된다.

여기서 t₀는 초기 두께이며, f₀는 불완전 계수를 나타낸다. 두께 감소로 인해 국소화가 홈 영역에서 시작된다고 가정하고, RVE-A와 RVE-B를 사용하는 CPFEM-MK 시뮬레이션이 수행되었다. CPFEM-MK 접근방식을 사용하는 FLD 분석 절차는 그림 3 (b)에 나타나 있다[¹⁰]. 해석에 사용된 조건은 표 3에 정리하였으며, 결정 소성 유한요소법의 주요 매개변수들이 설정되었다. AA6061 합금의 탄성 거동을 기술하기 위해 단결정 탄성 계수 C₁₁, C₁₂, C₄₄ 값을 적용하였다. 응력과 변형률의 관계는 다음과 같이 정의된다.

변형 속도에 따른 응력 변화 영향을 고려하기 위해 속도 민감도 지수 m값을 적용하였다. 변형률 속도와 응력의 관계는 다음과 같이 표현된다.

기준 변형률 속도는 변형 속도 의존성을 반영하기 위해 다음의 관계식을 기반으로 설정하였다.

초기 소성 변형 중 유동 응력 증가를 조절하기 위해 초기 경화 계수를 적용하였으며, 이는 다음의 경화 모델을 따른다.

충분한 소성 변형이 진행된 후 유동 응력이 일정한 값으로 수렴하는 현상을 반영하기 위해 다음과 같은 관계를 적용하였다.

슬립 시스템 간의 경화 상호작용을 조절하는 매개변수로 a,q를 사용하였으며, 이에 대한 경화 모델은 다음과 같다.

여기서 a는 경화 곡선의 곡률을 조절하는 계수이며, q는 슬립 시스템 간 상호작용을 조절하는 인자이다. 이러한 매개변수 등의 해석 조건을 AA6061합급의 물성을 반영하여 적용하였다. 이러한 절차를 통해 결정 방향 데이터와 FLD 데이터를 연계하여 학습 데이터 세트를 구축하였으며, 생성된 데이터는 이후 딥러닝 모델 학습 과정에 활용되었다.

2.2 학습 데이터 전처리 및 데이터 세트 구축

결정 방향 데이터를 실제 모델에 적용할 때, 시험으로 얻은 데이터의 형태를 어느 정도 조절할 수는 있지만, 이를 특정 크기에 정확히 맞추는 것은 실질적으로 어렵다. 따라서 고정된 크기의 데이터를 입력으로 받는 딥러닝 모델에 사용하기 위해서는 데이터의 전처리가 필요하다. 이 문제를 해결하기 위해 MATLAB의 MTEX Toolbox 라이브러리를 사용하여 딥러닝 모델 학습에 적합한 형태로 데이터를 변환하였다. 변환된 데이터는 방위분포함수 형태로 표현되었으며, 각각 ϕ₁ 0~85°, Φ 0~90°, ϕ₂ 0~85°의 범위에서 5° 간격으로 방위분포함수의 값을 계산하여 18×19×18의 크기의 3D텐서 데이터로 구성되었다. 이를 통해 입력 데이터의 형태를 항상 일정하게 유지할 수 있었으며, 데이터의 형태가 다르더라도 일관된 방식으로 모델을 적용할 수 있게 하였다. 변환된 방위 분포함수 이미지를 기존 문헌에서 제시된 ODF 이미지[¹⁸]와 비교한 결과, 집합조직이 나타나는 위치가 그림 4와 같이 유사하게 나타남을 확인할 수 있었다. 또한, 해석모델을 이용하여 FLD 데이터를 도출하였으며, 이는 18개의 좌표를 사용해서 9개의 데이터 포인트로 표현되었다. FLD의 특성상, 주 변형률과 부 변형률이 특정한 관계를 유지하며 해석이 진행되므로, 모델 학습을 위해 데이터 포인트를 원점(0,0)으로부터의 거리 값으로 변환하였다. 이는 18개의 좌표 데이터를 9개의 거리 값으로 변환하는 특성공학(feature engineering) 과정으로, 이러한 변환을 통해 모델이 더욱 효율적으로 학습할 수 있도록 하였으며, 데이터의 핵심적인 특성을 간결하게 반영할 수 있도록 하였다.

2.3 딥러닝 모델 설계

딥러닝 모델의 아키텍처는 ResNet18 구조[¹⁹]를 기반으로 설계되었으며, (그림 5), 본 연구에서 사용하는 3차원(18×19×18 형태) 데이터를 효과적으로 처리하기 위해 2D 합성곱을 3D 합성곱으로 확장하였다[²⁰]. 이는 2차원 영상에 최적화된 기존 ResNet18을 그대로 적용하기 어려운 문제점을 해결하고, 3차원 데이터의 공간적 특성을 보다 정교하게 반영하기 위함이다.

구체적으로, 각 잔차 블록(Residual Block)은 두 개의 3D 합성곱 층과 하나의 잔차 연결로 구성되어, 네트워크가 깊어지더라도 기울기 소실을 최소화하고 안정적인 학습이 가능해지게 한다. 데이터 세트는 모델 학습을 위해 8:1:1의 비율로 훈련, 검증 테스트 세트로 분할하였다.

모델의 파라미터 초기화에는 He 가중치 초기화 기법[²¹]을 사용하여, 학습 초기 단계에서 가중치 값이 적절한 범위를 유지하도록 설정하였다. 또한, 입력 데이터는 정규화 과정을 통해 0과 1사이의 값으로 정규화 하여 3차원 ODF값의 상대적 특성을 유지하면서도 학습 안정성을 도모하였다. 단, 모델 출력 데이터의 경우에는 정규화를 적용하지 않아, 예측 결과와 실제 측정값 사이의 직접 비교가 가능하도록 설계하였다.

결과적으로, 이러한 3D 합성곱 기반 잔차 네트워크 구조와 적절한 파라미터 초기화 및 정규화 전략의 결합을 통해, 깊은 신경망의 장점을 유지하면서도 3차원 데이터를 효율적으로 학습할 수 있도록 하였다.

2.4 하이퍼 파라미터 최적화

모델의 성능을 극대화하기 위해 하이퍼 파라미터 조정을 진행하였다. 본 연구에서는 파이썬에서 제공하는 Optuna[²²] 라이브러리를 활용하여 다양한 하이퍼 파라미터의 조합을 체계적으로 탐색하고 최적화하였다. 하이퍼 파라미터의 최적화 과정은 크게 두 단계로 진행되었으며, 첫번째 단계에서는 단순한 CNN 구조를 사용해 다양한 하이퍼 파라미터 설정을 실험했다. 이 초기 단계에서 여러 조합 중에서 성능이 우수한 하이퍼 파라미터를 선별하였다. 두 번째 단계에서는 첫 번째 단계에서 도출된 유망한 하이퍼 파라미터 범위를 바탕으로 보다 세밀한 조정을 진행하였다. 이 과정에서 학습률(learning rate)은 0.0005에서 0.01 사이, 최적화 함수(optimizer)는 Adam [²³], AdamW [²⁴], Amsgrad [²⁵] 중에서 선택, 손실함수(criterion)는 MSE (Mean Squared Error), MAE(Mean Absolute Error), SmoothL1중에서 선택, 그리고 가중치 감쇠(weight decay)는 0.0001에서 0.001 사이에서 최적화를 수행하였다. 최적화 과정에서는 Median Pruner 기법을 적용해 성능이 낮은 하이퍼 파라미터를 조기에 종료하도록 했다. 전체 최적화 과정은 200회 반복 수행되었으며, 검증 데이터 세트에서 R² 스코어를 최대화하는 방향으로 진행했다. 최적화 결과는 표 4에 제시되어 있으며, 최적화된 하이퍼파라미터 중 검증 세트에서 가장 R² 스코어가 높은 경우를 채택하여 모델 학습을 진행하였다.

3.1 모델 학습 결과

모델 학습 과정에서 손실 함수의 변화를 관찰하기 위해 학습 곡선을 작성하였다(그림 6). 학습 곡선은 학습 에포크(epoch)에 따른 훈련 손실과 검증 손실의 변화를 시각화한 그래프이다. 초기 에포크에서는 훈련 손실과 검증 손실이 모두 급격히 감소하는 경향을 보였으며, 이후 점진적으로 감소하여 안정적인 값을 유지하였다. 이러한 패턴은 모델이 제공된 데이터로부터 안정적으로 학습하고 있음을 의미한다. 모델의 성능 평가를 위해서 R² 스코어를 학습 과정에서 함께 계산하였으며, R² 스코어 역시 학습이 진행됨에 따라 꾸준히 증가하는 추이를 확인할 수 있다. 각 데이터 세트에서 R² 스코어는 0.7 내외의 정확도를 보여주고 있으며, 예측을 수행하는 데 준수한 설명력을 가지고 있음을 알 수 있다.

딥러닝 모델의 학습 과정에서, 하이퍼 파라미터 조정 이외에도 다양한 모델의 깊이나 입력 데이터의 해상도 조건을 시험해 보았으나 모델의 정확도에는 큰 변화가 없었다(그림 7). 정확도가 0.7 이상 개선되지 않은 이유는 방위 분포함수 데이터의 특성에서 찾을 수 있었다. 그림 8은 동일한 방위 분포함수를 가진 데이터를 20가지 경우로 RVE 상의 순서를 섞어 해석한 결과를 보여준다. 그래프에는 최댓값과 최솟값이 함께 나타나 있다. 같은 방위 분포함수를 가지고 있지만, 극단적인 경우에는 약 8~12%의 변화가 생기고 있는 것을 확인할 수 있으며, 방위 분포함수 데이터만으로 FLD를 예측하는 것은 필연적으로 그만큼의 오차가 발생하게 되고, 더 높은 정확도를 얻기 위해서는 방위분포함수 데이터만 입력 값으로 사용하는 것이 아니라, 추가 데이터가 필요하다는 것을 보여주고 있다.

추가적인 입력 변수로 고려할 수 있는 요소 중 하나는 이방성을 정량적으로 나타내는 지표이다. 예를 들어, 재료의 이방성 특성을 반영할 수 있는 Lankford 계수 (r-value), 이방성 계수(Δr) 등을 함께 입력 변수로 활용할 수 있다. Lankford 계수는 성형 공정에서 두께 방향 변형과 관련된 이방성을 나타내므로 FLD 예측에 중요한 역할을 할 수 있다. 그림 9는 모델의 예측 결과 중, 정확도가 가장 낮았던 두 경우를 시각화 하여 나타낸 그래프이다. 데이터의 추세를 잘 따라가고 있는 것을 확인할 수 있으며, 예측에 다소 차이는 있지만 방위 분포함수 데이터를 입력 값으로 사용함으로써 생긴 문제로 충분히 감안할 수 있는 범위 내의 오차를 보이는 결과를 확인할 수 있다.

3.2 실제 데이터에 대한 모델 예측 정확도 평가

개발한 딥러닝 모델의 예측 정확도를 검증하기 위하여, 실제 AA6061합금에 대한 FLD 시험을 진행한 실험값[²⁶]과의 비교를 수행하였다. 그림 3의 절차와 표 3에 제공된 매개변수에 따라 EBSD(Electron Backscattered Diffraction) 데이터로부터 측정된 집합조직 정보를 고려하여 10×10×10 크기의 대표 체적 요소(RVE)를 구성하였고, 이를 기반으로 CPFEM-MK 시뮬레이션을 수행하였다. 모델의 예측 결과는 그림 10에 제시되어 있다. 예측 결과는 전반적으로 실험 결과와 유사한 경향을 보였으며, 특히 부 변형률이 음수인 단축 인장 상태에서 우수한 정합성을 나타냈다. 반면 부 변형률이 양수인 이축 인장 영역에서는 예측 정확도가 다소 감소하는 경향을 보였다. 이는 딥러닝 모델이 CPFEM-K 시뮬레이션 데이터를 학습 기반으로 하는 특성상, 실제 실험 조건과의 차이에 따른 일반화 한계로 해석될 수 있다. 부 변형률이 양수인 조건에서의 데이터 밀도가 상대적으로 낮은 것도 예측 성능 저하의 원인으로 판단된다. 모델의 정량적 성능은 결정계수(R²)와 평균절대오차(MAE)를 기준으로 평가하였다. Test 데이터셋에 대해 R² = 0.6913, MAE = 0.0041로 나타났으며, 예측 대상값의 평균 범위(약 0.2-0.5)를 고려할 때 오차 수준은 비교적 낮은 편으로 해석된다. 특히, 예측값과 실험값 간의 분포가 주요 밀집 영역에서 잘 정렬되어 있어, 복잡한 물리적 특성이 포함된 조건에서도 전반적으로 일관된 예측 성능을 확보한 것으로 판단된다(그림 11). 이는 모델이 재료의 집합조직 및 이방성 특성을 일정 수준 반영하고 있음을 보여준다.

3.3 Grad-CAM을 통한 모델 해석

그림 12은, 학습시킨 딥러닝 모델이 테스트 데이터 세트에서 예측을 진행했을 때, 모델이 데이터의 어떤 부분에 주목하는지 파악하기 위해 Grad-CAM(Gradient-weighted Class Activation Mapping) 기법을 적용한 결과의 일부이다. Grad-CAM은 신경망의 마지막 합성곱 층의 특징 맵에 그래디언트 정보를 결합하여 해당 층에서 각 클래스에 대한 공간적인 중요도를 시각화 하는 방법이다. 이 기술은 모델이 특정 출력을 결정할 때 어떤 영역을 중요하게 고려하는지를 분석함으로써, 모델의 해석 가능성을 높이고 결과의 신뢰성을 강화하는데 유용하다. 이 결과는 모델의 세 번째 층에 적용되었으며 단축 인장, 평면 인장, 등방성 인장 세 변형 모드에 해당하는 Grad-CAM 데이터를 보여준다. 모든 데이터에서 예시 이미지와 동일한 결과가 나타난 것은 아니지만, 대체로 이 딥러닝 모델은 ϕ₂가 20~35° 범위일 때의 β-fiber 상의 Brass-S-Copper 방위 분포함수 값을 중점적으로 보면서 예측을 진행한 것을 알 수 있다.

이는 데이터 세트 제작 시 냉간 압연으로 인한 감소율에 따른 집합조직의 비율을 사용한 점과, β-fiber 상의 집합조직의 비율이 높을 때 소재의 성형성이 저하되는 특성이 충분히 반영된 결과이다[²⁷]. 이러한 맥락에서, 이 딥러닝 모델은 소재의 집합조직과 FLD의 상관관계를 잘 반영하며, 변형 과정에서 발생하는 상호작용을 효과적으로 포착하고 있음을 시사한다.