shinemusCAT

AMP(Automatic Mixed Precision, 자동 혼합 정밀도)

학습 중 일부 연산을 32비트(float32) 대신 16비트(float16/bfloat16)로 계산해서 속도를 높이고 메모리를 줄이는 기법 GPU는 16비트 행렬곱을 텐서 코어를 활용해 32비트보다 훨씬 빠르게 처리할 수 있음메모리도 절반만 차지해서 같은 배치를 더 적은 메모리로 돌릴 수 있음 loss 계산이나 그래디언트 누적처럼 정밀도가 중요한 부분은 32비트로 유지하고, 행렬곱 등 덜 민감한 연산만 16비트로 전환합니다. 또 그래디언트가 너무 작아서 16비트에서 0이 되는 걸 막기 위해 손실값을 일시적으로 키우는 "Loss scaling"을 자동으로 진행 아주 드물게 16비트 변환 때문에 학습이 약간 다르게 수렴할 수 있음 (보통은 무시할 수준임)원래 베이스라인과 완벽히 동일한 조건은 아니라서, 나중..

단어 정리input-agnostic baseline모델에 들어오는 특정 입력 데이터에 의존하지 않고 항상 동일하게 설정하는 고정된 기준점 XAI 알고리즘(예: Integrated Gradients, SHAP 등)은 모델이 예측한 값에서 기준점(Baseline)으로 예측한 값을 빼는 방식으로 데이터의 중요도를 계산 만약 기준점이 입력 데이터에 따라 계속 변하면 해석의 일관성이 떨어집니다. 따라서 "아무것도 없는 상태"나 "모든 특성이 완전히 꺼진 상태" 등을 상징하는 입력 독립적 기준점을 고정해 두고, 실제 입력값과 비교하여 결과의 원인을 추적예시 (이미지 분석): 입력 이미지와 비교할 기준점으로, 픽셀 전체가 완전히 까맣거나(값 0) 평균적인 회색빛으로 채워진 이미지를 고정값으로 사용Naive bayes..

안녕하세요, 여러분! 오늘은 정말 기쁜 소식을 전해드리려고 해요.바로 제가 오랫동안 기다려왔던 LG CNS AI Genius 14기에 최종 합격했습니다! 🎉 작년부터 꼭 하고 싶었던 활동이라 지원 과정 내내 정말 간절했는데요.저처럼 LG CNS AI Genius에 관심 있는 분들, 다음 기수를 준비하는 분들을 위해서류 준비부터 면접, 그리고 따끈따끈한 최종합격 후기까지 꼼꼼하게 공유해 보려고 합니다. 그럼, 바로 시작해 볼까요? LG CNS AI Genius 란? AI Genius는 LG CNS가 자체 개발한 청소년 대상 교육 프로그램입니다.2017년부터 시작해 학생들이 SW 및 AI 개념-원리 학습을 통해 사고력을 키우고, 문제 해결 능력을 배양할 수 있도록 돕고 있습니다.서울시 교육청과 업무협약을 ..

Chapter 1. 빅데이터의 이해Section 01 빅데이터 개요 및 활용1) 빅데이터의 특징데이터의 정의- 데이터: 있는 그대로의 객관적 사실, 가공되지 않은 상태 (주문수량)- 정보: 데이터로부터 가공된 자료 (베스트셀러) 빅데이터 출현 배경- 인터넷 확산, 스마트폰 보급, 클라우드 컴퓨팅으로 인한 경제성 확보, 저장매체 가격하락, 하둡을 활용한 분산 컴퓨팅, 비정형 데이터 확산 빅데이터 활용을 위한 3대 요소- 인력, 자원(데이터), 기술-> "인자기" 빅데이터의 3V (가트너 정의)(1) Volume(규모): 데이터량 증가(2) Variety(다양성): 데이터 유형 증가(3) Velocity(속도): 데이터 생성, 처리 속도 증가(4) 그 외 5V에 포함되는 요소- Value(가치): 숨겨진 가..

Chapter 1 데이터 모델링의 이해Section 04 관계(Relationship)관계(Relationship)의 개념- 관계는 엔터티간의 연관성을 나타낸 개념- 관계를 정의할 때는 인스턴스(각 행 데이터)간의 논리적인 연관성을 파악하여 정의- 엔터티를 어떻게 정의하느냐에 따라 변경되기도 한다. 관계의 종류1) 존재적 관계- 한 엔터티의 존재가 다른 엔터티의 존재에 영향을 미치는 관계- 엔터티 간의 연관된 상태를 의미  예) 부서 엔터티가 삭제되면 사원 엔터티의 존재에 영향을 미침 2) 행위적 관계- 엔터티 간의 어떤 행위가 있는 것을 의미  예) 고객 엔터티의 행동에 의해 주문 엔터티가 발생 * ERD에서는 존재 관계와 행위 관계를 구분하지 않는다. 관계의 구성관계명차수(Cardinality)선택성..

Chapter 1 데이터 모델링의 이해Session 03 속성속성(Attribute)의 개념- 속성은 업무에서 필요로 하는 고유한 성질, 특징을 의미(관찰 대상) -> 컬럼으로 표현할 수 있는 단위- 업무상 인스턴스로 관리하고자 하는 더이상 분리되지 않는 최소의 데이터 단위- 인스턴스의 구성 요소  예) 학생 엔터티에 이름, 학번, 학과 번호 등이 속성이 될 수 있음 엔터티, 인스턴스, 속성, 속성값의 관계- 한 개의 엔터티는 2개 이상의 인스턴스의 집합이어야 한다. (하나의 테이블은 두 개 이상의 행을 가짐)- 한 개의 엔터티는 2개 이상의 속성을 갖는다. (하나의 테이블은 두 개 이상의 컬럼으로 구성됨)- 한 개의 속성은 1개의 속성값을 갖는다. (각 컬럼의 값은 하나씩만 삽입 가능)- 속성은 엔터티..

Chapter 1 데이터 모델링의 이해Section 02 엔터티(Entity)엔터티(Entity)의 개념- 현실 세계에서 독립적으로 식별 가능한 객체나 사물을 나타냄- 엔터티는 업무상 분석해야 하는 대상(Instance)들로 이루어진 집합- 인스턴스는 엔터티의 특정한 속성 값들로 구성되며, 엔터티의 개념을 현실에서 구체적으로 나타낸 것  예) 엔터티와 속성, 인스턴스 등의 관계 엔터티(Entity) : 학생속성(Attribute) : 학번, 이름, 학과 등식별자(Indentifier) : 학번 (고유한 학번으로 각 학생을 식별)인스턴스 : 특정 학생의 데이터- 학생 : 2021001- 이름 : 홍길도- 학과 : 컴퓨터공학 엔터티(Entity)의 특징1. 유일한 식별자에 의해 식별 가능- 인스턴스가 식별자..

Chapter 1 데이터 모델링의 이해Section 01 데이터 모델의 이해모델링의 개념- 현실 세계의 비즈니스 프로세스와 데이터 요구 사항을 추상적이고 구조화된 형태로 표현하는 과정- 데이터 베이스의 구조와 관계를 정의하며, 이를 통해 데이터의 저장, 조작, 관리 방법을 명확하게 정의 모델링의 특징1. 단순화(Simplification)- 현실을 단순화하여 핵심 요소에 집중하고 불필요한 세부 사항을 제거- 단순화를 통해 복잡한 현실 세계를 이해하고 표현하기 쉬워짐 2. 추상화(Abstraction)- 현실 세계를 일정한 형식에 맞추어 간략하게 대략적으로 표현하는 과정- 다양한 현상을 일정한 양식인 표기법에 따라 표현 3. 명확화(Clarity)- 대상에 대한 애매모호함을 최대한 제거하고 정확하게 현상을..

문제 설명정수가 담긴 리스트 num_list 가 주어질 때, 모든 원소들의 곱이 모든 원소들의 합의 제곱보다 작으면 1을, 크면 0을 return 하도록 solution 함수를 완성해 주세요. 제한사항2 num_list의 길이 1 num_list의 원소 입출력 예num_listresult[3, 4, 5, 2, 1]1[5, 7, 8, 3]0 입출력 예 설명입출력 예 #1모든 원소의 곱은 120, 합의 제곱은 225이므로 1을 return 합니다.입출력 예 #2모든 원소의 곱은 840, 합의 제곱은 529이므로 0을 return 합니다. 해결내 풀이def solution(num_list): answer, sum1 = 0 multi = 1 for i in range(len(num_lis..

문제 설명1부터 6까지 숫자가 적힌 주사위가 세 개 있습니다. 세 주사위를 굴렸을 때 나온 숫자를 각각 a, b, c라고 했을 때 얻는 점수는 다음과 같습니다.세 문자가 모두 다르다면  a + b + c 점을 얻습니다.세 숫자 중 어느 두 숫자는 같고 나머지 다른 숫자는 다르다면 (a+b+c)*(a^2+b^2+c^) 점을 얻습니다.세 숫자가 모두 같다면 (a+b+c)*(a^2+b^2+c^2)*(a^3+b^3+c^3)점을 얻습니다.세 정수 a, b, c가 매개변수로 주어질 때, 얻는 점수를 return 하는 Solution 함수를 작성해 주세요. 제한사항a, b, c는 1 이상 6 이하의 정수입니다.입출력 예abcresult2619533473444110592 입출력 예 설명입출력 예 #1예제 1번에서 세 ..