0. Paper Information
- Title: A Comparative Analysis of Artificial Neural Network Architectures for Building Energy Consumption Forecasting
- Authors: Jihoon Moon, Sungwoo Park, Seungmin Rho, Eenjun Hwang
- Publication: International Journal of Distributed Sensor Networks
- Published Year: 2019
1. Introduction
Background
- 스마트 그리드는 신뢰성, 유연성, 지속 가능성, 효율성 등의 특징을 갖고 있으며, 에너지 부족과 환경 오염 등 현재의 여러 문제에 대한 해결책으로 떠오르고 있음
- 스마트 그리드는 공급자와 소비자 간의 실시간 전력 정보 교환을 위해 유선/무선 통신, 제어, 센서 등이 지원되는 플랫폼
- 스마트 그리드는 스마트 미터, 에너지 관리 시스템(EMS), 에너지 저장 시스템(ESS), 다양한 신재생에너지(RES) 기반 시스템 등으로 구성됨
- EMS는 전력 시스템 내에서 건물 에너지 소비와 관련된 데이터를 수집 및 분석하여 수요 측에서 에너지를 절약할 수 있는 방법을 결정
- 공급 측에서는 EMS가 저장 비용과 미래에 사용될 에너지 양 등을 고려하여 발전 및 ESS 일정을 생성
- 더 효과적인 일정을 생성하려면 EMS는 정확한 단기 전력수요 예측(STLF)이 필요
- STLF는 전력 시스템 장비의 신뢰성을 보장하고 전력 손실과 과부하로 인한 손실을 대비하여 전력 예비율을 제어함
- STLF는 일반적으로 일일 운영 및 비용 최소화를 위해 최대 1주일 앞까지 시간별 전력 부하를 예측하는 데 사용됨
- 정확한 STLF는 전기 비용이 상대적으로 낮은 밤에 에너지를 저장하고 전기 비용이 높은 낮 동안 전기를방출함으로써 경제적 이익을 제공할 수 있음
- STLF는 에너지 소비 패턴이 복잡하고 불확실한 외부 요인이 수요 곡선에 변화를 일으킬 수 있기 때문에 쉬운 작업이 아님
- 건물 전력 에너지 소비 변동에 영향을 미치는 요인으로는 건축 구조, 물리적 재료의 열적 특성, 시간대, 전기 요금, 특별 행사, 거주자 일정, 기후 조건 및 조명 등이 있음
- 전력 부하를 예측할 때 현재 시간과 이전 시간 간의 복잡한 에너지 소비 상관관계를 적절히 고려해야 함
Previous Research
- 현재까지 정확한 전력 부하를 예측하기 위해 많은 인공 신경망(ANN) 기반 STLF 모델이 구축되었으며, 우수한 성능을 보여줌
- 성능을 더욱 향상시키려면 하이퍼파라미터를 효과적으로 조정하는 것이 중요함
- 모든 ANN 모델에는 네트워크 자체 구조를 지정하거나 신경망을 학습하는 방법을 결정하는 여러 하이퍼파라미터(은닉 층(HL) 수, 은닉 노드 수, 활성화 함수, 학습 율, 배치 사이즈, 손실 함수 등)가 있음
- 이 중 가장 중요한 두 가지 하이퍼파라미터는 활성화 함수와 HL 수
- 활성화 함수는 유용한 데이터를 노이즈에서 분리하도록 네트워크를 지원하며, 모델에 비선형성을 도입하는 데도 사용되어 ANN 모델이 비선형 예측 경계를 학습할 수 있게 함
- 예측 결과가 활성화 함수에 크게 의존하므로 적절한 활성화 함수를 선택하는 것이 예측 성능을 향상시키는 데 중요함
- HL는 입력 데이터로부터 복잡한 특징이나 패턴을 추출하며, 수가 많아질 수록 더 복잡한 특징을 학습할 수 있게 함
- HL 수를 늘린다고 항상 예측 정확도가 향상되는 것은 아님
- HL 수가 너무 많아지면 과적합으로 인해 테스트 세트에서 정확도가 감소할 수 있음
- 너무 많은 HL을 가진 ANN 모델은 새로운 데이터를 일반화하기 어려움
- 이러한 하이퍼파라미터가 ANN 모델의 성능에 중요함에도 불구하고, 다양한 활성화 함수와 HL 수를 고려하여 예측 성능을 비교한 연구는 없음
Proposed Model
- 건물 또는 건물 군집의 전력 에너지 소비를 정확하게 예측하기 위해 ANN 기반 STLF 모델을 구축
- 시간 데이터, 날씨 데이터, 과거 전력 부하 등 일반적인 요인을 고려하고 이를 수집 후 데이터 전처리를 수행
- 다양한 활성화 함수와 HL 수의 성능을 비교하여 최적의 ANN 기반 STLF 모델을 선택하기 위한 광범위한 실험을 수행
Contribution
- 스마트 그리드의 일일 에너지 스케줄링을 위해 건물 또는 건물 군집의 전력 에너지 소비에 중점을 둔 ANN 기반 STLF 모델을 구축함
- 우리의 STLF 모델을 다른 건물 또는 건물 군집에 대한 기본 모델로 적용하기 위해 시간 데이터, 날씨 데이터 및 과거 전력 부하와 같은 일반적인 요인을 고려함
- 여러 사례를 테스트 세트로 설정하여 5가지 유형의 건물에 대한 30분 간격 전력 부하를 예측함
- 최적의 ANN 기반 STLF 모델을 구축하기 위해 활성화 함수와 HL 수의 전반적인 예측 성능을 광범위하게 비교함
2. Methodology
Overall Structure
- ANN 기반 STLF 모델 구조
ANN (Artificial Neural Network)
- ANN은 인간의 뇌 구조와 기능을 모방하여 정보를 처리하는 기계 학습 모델
- ANN은 여러 개의 뉴런(노드)으로 구성된 계층적 구조로 이루어져 있으며, 각 뉴런은 입력을 받아 가중치를 곱한 후 활성화 함수를 통해 출력값을 생성
- 입력층(Input Layer), 은닉층(Hidden Layer), 출력층(Output Layer)으로 구성되어 있으며, 은닉층이 많을수록 복잡한 문제를 해결할 수 있는 능력이 향상됨
- 역전파 알고리즘(Backpropagation)을 사용하여 가중치를 조정하며, 이를 통해 모델이 점점 더 정확한 예측을 할 수 있도록 학습
- 활성화 함수를 통해 비선형성을 도입하여 복잡한 데이터 패턴을 학습
3. Experimental Result
Dataset
- 5가지 건물 유형에 대해 KEPCO에서 수집된 전력수요 데이터 사용
- 2015년 1월 1일 ~ 2016년 12월 31일에 30분 단위로 수집됨
- 각각의 건물의 전력수요 패턴은 다른 특성을 보임
- 시간 데이터, 날씨 데이터 및 과거 전기 부하로 구성된 120개의 입력변수를 사용
- 시간 데이터 중 월, 일, 시 데이터는 1차원 데이터를 2차원 데이터로 변환 후 사용
- 날씨 데이터는 기온, 습도, 풍속, 일최고기온, 일최저기온, 강수량, 불쾌지수, 체감온도를 사용
- 과거 전기 부하 데이터는 이전 96시점의 데이터를 사용
- 훈련 데이터와 테스트 데이터는 50:50의 비율로 나눈 후 실험에 사용
Evaluation Metric
- CVRMSE(Coefficient of Variation of the Root Mean Dquare Error)와 MAPE(Mean Absolute Percentage Error)를 평가지표로 사용
- 정확도를 오류의 백분율로 나타내기 때문에 RMSE 또는 MSE와 같은 다른 성능 지표보다 이해하기 쉬움
Result
- 예측 성능 비교 (1)
- 활성화 함수와 HL수를 변경해가며 예측 성능을 비교
- 예측 성능 비교 (2)
- 예측 성능들의 평균을 기준으로 최적의 활성화 함수 탐색
- SELU가 가장 적합함을 확인
- 예측 성능들의 평균을 기준으로 최적의 활성화 함수 탐색
- 예측 성능 비교 (3)
- SELU를 적용하였을 때 최적의 HL 수를 탐색
- 5개의 HL 수를 설정하는 것이 가장 적합함을 확인
- SELU를 적용하였을 때 최적의 HL 수를 탐색
- 예측 성능 비교 (4)
- 다양한 통계적 기법들과 제안하는 ANN 모델의 성능 비교한 결과, 모든 건물에서 가장 성능이 우수함을 확인
4. Conclusion
- 해당 논문에서는 다양한 수의 HL과 활성화 함수를 사용하여 ANN 모델을 구축하고 STLF의 성능을 비교함
- ReLU, LReLU, PReLU, ELU, SELU를 활성화 함수로 고려했고, HL 개수는 1부터 10까지 고려함
- 다섯 가지 유형의 건물에서 수집한 전기 부하 데이터를 고려함
- 두 가지 성능 지표인 CVRMSE와 MAPE를 사용하여 성능을 확인함
- 5개의 HL이 있는 SELU 기반 모델이 다른 ANN 기반 STLF 모델보다 더 나은 평균 성능을 나타냄을 확인함
- 모델의 다른 하이퍼파라미터를 추가적으로 조정한다면 대상 건물에 대한 예측 성능이 한층 더 향상될 것으로 기대됨