대학원생 공부 저장소

[통계 분석] p-value에 대해 알아보자! (추가 : 1종 오류 2종 오류)

취준을 위한 면접 준비를 하며 빅분기, ADSP 통계 부분을 공부하였다.하면서 느낀점은.. 공부는 진짜 꾸준히 하거나 관련 프로젝트를 계속 해야 익숙해진다는 것.. 진짜 식을 다 까먹었다..오랜만에 공부하니까 용어를 보고 이 뜻이었나..? 헷갈린 부분이 새롭게 생겨서 내 머리가 그렇게 좋은 편은 아니구나 라고 생각했다. 기존 이산확률분포의 베르누이, 이항, 포아송 분포의 개념을 완벽하게 익히고연속확률분포를 보면 더 이해가 쉽다. 주로 통계 분석 기법으로는 T-test, ANOVA를 활용하기 때문에 이산확률분포는 그냥 대충 하고 넘어가자라고 생각하면 오산이다. 이산에서의 확률분포 개념을 확실하게 깨닫고 연속을 공부해야 진정한 통계란 무엇인지 깨닫게 된다.. (이상 통린이의 의견이었슴니다.)Independe..

딥러닝 모델이 점점 커지면서 이를 실제 환경에 적용할 때 계산 비용, 메모리 사용량, 추론 속도 등의 문제가 발생합니다.이러한 문제를 해결하기 위해 Qunatization, Purning, Distillation 등의 모델 경량화 기법이 사용됩니다.LLM을 효율적으로 훈련하는 방법(=경량화 기법)에 대해 알아보겠습니다.Quantization👉 Quantization은 딥러닝 모델에서 사용하는 파라미터나 연산을 더 작고 정수화된 숫자(예: float16, int8) 로 바꿔서 모델의 크기를 줄이고 연산 속도 및 메모리 효율을 높이는 기술왜 이 기술을 사용할까? GPU 메모리 사용량을 줄이기 위해느린 연산 속도를 개선하기 위해작은 기기(모바일, 임베디드 등)에서도 모델을 사용 가능하게 하기 위해Quanti..

이번 글은 Attention 메커니즘을 풀어서 설명해보겠습니다당!Attention 이란?"어떤 단어에 더 집중할지 결정하는 메커니즘" 각 단어가 다른 단어에 어느 정도 '집중할지'를 계산해서 더 중요한 정보에 가중치를 부여하는 방식Attention의 기본 작동 원리는 하나의 문장 안에서 단어들끼리 서로 얼마나 관련 있는지 계산하는 것입니다. (Self Attention 기준) Step-by-step 정리1. Query, Key, Value 만들기입력된 단어(벡터)마다 3개의 다른 벡터를 만듭니다.Query내가 지금 집중하고 싶은 "기준점"Key비교 대상이 되는 "모든 단어들"Value실제 정보를 담고 있는 값 (결국 더해질 정보들) 2. Query와 모든 Key의 유사도를 계산Query 벡터와 모든 Ke..

급하게 지원한 회사에서 CS 시험을 본다고 연락이 왔다..학부 때 자료구조나 컴퓨터 네트워크 같은 다양한 전공 강의를 들었기 때문에 기본적인 전공 지식은 있지만, 주로 데이터 분석과 딥러닝 모델 구축을 해와서 운영체제나 응용 프로그램 같은 서비스 개발 관련 내용은 가물가물한 부분이 좀 있다.그래서 유튜브를 보며 이 게시물에 정리를 해보려고 한다.! https://youtu.be/Jldtn3XRGic?si=t5pY-eJa9RL-z7m9 - '개발자로 취업하려면 꼭 알아야 할 기술 면접 CS 지식 총 정리 특강' prod by 조코딩유명한 조코딩 유튜버님의 강의를 듣고 어떤 CS  지식들이 있는지 개요를 먼저 확인하겠다.CS 공부 Tip! )키워드 뜻 풀이 나열로 컴퓨터 과학을 학습하면 안된다. 이유 : 응..

🧐저번 1탄에서 말씀드렸던 RNN 동작 방식과 Grandient Vanishing 문제에 대해 조금 더 자세하게 설명드리겠습니다. 아래는 4개의 입력값 ($x_t$)에 대해 RNN 모델 내 값들이 어떻게 변화하는지 계산한 결과이다.Input 이 I (1.0) like (0.5) my (0.2) puppy(0.1).괄호 안의 값들은 Tokenizing, Word embedding (one-hot, TF-IDF, Word2Vec 같은 것들이 있겠죠 최근에는 인공신경망 (BERT, CLIP)을 활용하기도 합니다.) 과정을 통해 나온 실수 벡터의 값입니다.Time stepInput($x_t$)Hidden state($h_t$)Output($y_t$)11.00.71630.601420.50.81600.671230..

🧐Recurrence Neural Network에 대해 알아보겠습니다!! 먼저 RNN은 4가지 특징이 있습니다시간에 따라 정보가 변할 때 그 변화를 축적하도록 설계된 신경망 👉 이전 타임스텝의 정보를 기억하고, 이를 다음 타임스텝의 입력으로 활용할 수 있는 순환 구조를 가짐 (연속 데이터 처리)이전 상태(=hidden state)를 저장하여 과거 정보를 참조할 수 있음 (메모리 기능)모든 타임스텝에서 동일한 가중치를 사용하여, 모델의 파라미터 수를 줄이고 학습을 효율적으로 진행할 수 있음 👉 입력 길이에 관계없이 모델 크기가 일정하게 유지됨 (가중치 공유) FNN에서 입력이 $ [x_1, x_2, x_3]$ 3개면, 각 입력을 처리하기 위해 각각 다른 가중치를 가진 3개의 뉴런이 필요함 (100개..

오늘은 언리얼 엔진5를 통해 인공지능 캐릭터를 만들어 보겠다. 자율주행 연구를 진행하기 위해 무단횡단을 하는 빌런 캐릭터를 만들어야 하는데 조건은 아래와 같다. 1. 차가 빌런 시야각에 들어온다. 2. 빌런은 차 앞을 지나가는 무단횡단을 한다. -> 차는 무단횡단 하는 빌런을 보고 멈추거나 방향을 틀어야 함 사실 언리얼 엔진을 배운 지 얼마 되지 않아 어떤 설정을 해야하고 어떤 순서로 만들어야 하는지 모른다. 그래서 뤼튼에게 물어봤다. 뤼튼 왈: 아래는 간략한 단계별 가이드입니다: 환경 설정: 먼저, 언리얼 엔진에서 사용할 환경을 설정해야 합니다. 이 환경은 도로, 보행자 신호등, 차량 등을 포함해야 합니다. AI 캐릭터 생성: 다음으로는 AI 캐릭터를 생성하고 움직임 메커니즘이 필요합니다. 이것은 'C..

언리얼 엔진에서 자주 보이는 클래스 actor, pawn, character 개념에 대해 알아보자 Actor Pawn Character 위치 이동 X ○ ○ 동작 X △(이동 및 회전 가능) ○ 사용자 or AI가 조종 X ○ ○ 예시) 건물, 도로 장기알 (물건) 사람 1. Actor : 게임 오브젝트의 기본이 되는 클래스로 모든 오브젝트들은 Actor를 상속받아 만들어진다. Static Mesh, Dynamic Physics Object 등 모든 오브젝트를 표현할 수 있다. 2. Pawn : Actor의 하위 클래스로 유저 입력을 받아 처리하거나 플레이어, AI가 제어할 수 있는 객체를 표현한 것이다. 폰은 조작 대상이 되는 캐릭터, 물건이 될 수 있고 움직임, 충돌 감지 상호작용 등과 같은 기능을 ..

gensim 오류를 해결하려고 가상환경을 다시 생성했더니 이번엔 Konlpy 오류가 뜨네.... SystemError: java.lang.UnsatisfiedLinkError: Native Library C:\Users\anaconda3\envs\myenv\Lib\site-packages\_jpype.cp38-win_amd64.pyd already loaded in another classloader Output is truncated. View as a scrollable element or open in a text editor. Adjust cell output settings... wheel 문제인 것 같은데 셀 출력 내용을 더 자세히 보면 konlpy의 jvm.py 파일에서 오류가 생기는 것을 ..

나만의 파워퍼프걸을 만들 수 있는 사이트가 요즘 계속 내 눈에 맴돌길래 새벽에 잠이 안 와 만들어보았다. 파워퍼프 유어셀프~ 파워 미 어업! 나는 남들보다 까만 편이지만 가상이니까 모 ㅎㅎ 머리를 자주 묶는 나 염색을 한 지 얼마 안된 나 한 달 뒤에 만들었다면 뿌리염색이 필요한 머리 설정이 있었으면 좋았겠다 라고 생각했겠지 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ완성 볼터치가 디게 화사하게 보일 정도의 피부톤은 아닌데 가상의 내 파워퍼프걸로 만족 중 남을 지킬 수 있는 초강력 슈퍼파워라 .... 탐나네 나부터 버텨야지... 이때는 몰랐는데 what's yours를 누르면 mbti처럼 내 성격을 진단(?)할 수 있음 loyal one은 뭐야 충성스러운 친구?... funny 선택 1,2 둘 다 좋은데 222222222222..