개요

• 삼성DS HPC 기반 반도체 공정 인공지능 시뮬레이션 설계 및 구축

• Stackpython3.9 | fast API | airflow | ray
• ENVHPC | Postgresql | MongoDB

주요 문제 해결 목록

• deck 데이터 생성(DOE) 관리 및 생성 벡터 연산 개발
• 반도체 공정 중 optimize 후처리 파인튜닝 알고리즘 개발
• HPC 활용 MLOps 자원 효율 관리 방안 구축

주요 업무

• fast api 기반 반도체 deck 분석 및 HPC 연산 상태정보 조회 서비스 구축
• 반도체 공정 메타데이터 기반 웨이퍼 불량률 검증 및 반도체 공정 불확실성 검증 모델 개발
• airflow 및 greenplum 기반 queue 서버 구성 후 mlops기능 다중 노드 서버 분산작업 개발
• wfmap deck 데이터 기반으로 학습에 필요한 데이터 생성(DOE) 시스템 설계 및 인공지능 시뮬레이션에 사용되는 각종 변수 데이터를 작은 데이터 타입으로 변환하여 simd 연산처리로 처리량 증가
• tensorflow 기반 반도체 공정 예측 인공지능 모델 프로토타입 개발 (전처리, 스케일링, 학습, 테스트, 추론, 최적화 단위별 모듈)
• fast api와 lay 기반으로 prediction/ optimizer serving 시스템 구축
• free treading 및 lay로 pytorch 기반 logic/ dram 반도체 공정 prediction/ optimizer 기능 코드 재설계 및 고도화