코딩하는 해커

[LLM] 대형 언어 모델(LLM) 소개

대형 언어 모델(LLM) 소개(Introduction to LLM)ChatGPT가 공개된지 약 2년이 다되어 가는 시점이고, 처음 나왔을 때는 hallucination(AI가 학습된 데이터나 맥락에 근거하지 않는 잘못된 정보나 허위 정보를 생성하는 현상)이 심해서 여러 번의 검증을 하고 사용하였는데, 최근에는 이러한 문제가 상당하 개선되며 다양한 분야에 적용되어 인간의 업무 효율성을 높이고 있다. 시대의 흐름에 맞게 AI를 사용하는 것은 선택이 아닌 필수가 된 시점에서 자연어 처리(Natural Language Processing, NLP)와 대형 언어 모델(Large Language Model)에 대한 이해는 AI를 공부한다면 필수적이라고 생각한다. 따라서, 기본적인 자연어 처리 기법과 대형 언어 모델..

[Physics] 파동의 성질과 활용

파동의 성질과 활용파동: 진동이 주위로 퍼져나가는 현상 파동은 진동이 주위로 퍼져나가는 현상을 뜻하는데, 이때 진동이란 어떤 특정한 위치에서 짧게 왕복운동 하는 것을 뜻한다.파동의 종류로는 크게 횡파와 종파로 나눌 수 있다. 진동을 주위로 퍼져 나가게 하기 위해서는 어떠한 물질이 필요한데, 이러한 물질을 매질이라고 한다. 예를 들어, 지진파의 경우 암석이 매질이 되는 것이고 음파의 경우에는 공기가 매질이 된다. 매질은 제자리에서 또 다른 매질을 진동시켜 공간을 따라 전파되어 파동을 발생시킨다. 파동에는 매질의 진동 방향과 파동의 진행 방향에 따라 횡파와 종파로 나뉜다. 횡파는 파동의 진행 방향과 매질의 진동 방향이 서로 수직인 파동을 뜻하며 그림으로 나타내면 아래와 같다. 예시로는 지진파의 S파와 전자기..

[Paper Review] Disrupting Deepfakes: Adversarial Attacks ~

논문 리뷰: Disrupting Deepfakes: Adversarial Attacks on Conditional Image Translation Networks- 논문 링크: https://arxiv.org/pdf/2003.01279 - 깃허브 링크: https://github.com/natanielruiz/disrupting-deepfakes?tab=readme-ov-file Background오늘은 2020년 CVPR 워크샵에서 발표된 논문인 "Disrupting Deepfakes: Adversarial Attacks on Conditional Image Translation Networks"이라는 논문에 대해 리뷰하고자 한다. 최근 Adversarial Attack에 관심을 갖게 되고난 후 "딥페..

[ROS2 튜토리얼] 1. 환경 구성

What is ROS?ROS is an open-source, meta-operating system for your robot. It provides the services you would expect from an operating system, including hardware abstraction, low-level device control, implementation of commonly-used functionality, message-passing between processes, and package management. It also provides tools and libraries for obtaining, building, writing, and running code acros..

[Statistics] 이산확률분포 - 베르누이 분포, 이항분포

이산확률분포 - 베르누이 분포, 이항분포(Bernoulli Distribution, Binomial Distribution)깃허브 연습코드 링크: https://github.com/PSLeon24/Mathematical_Statistics/blob/main/Probability_Distribution/%EB%B2%A0%EB%A5%B4%EB%88%84%EC%9D%B4%20%EB%B6%84%ED%8F%AC.ipynb이번 포스팅에서는 이산확률분포 중에서 베르누이 분포와 이항분포를 알아보고자 한다.먼저, 이산확률분포가 무엇인지에 대한 개념을 정립하고 시작하자.확률분포는 크게 2가지 카테고리로 분류할 수 있는데, 첫째는 이산확률분포(discrete probability distribution)이고 둘째는 연속확률..

[cs231n] 1. Image Classification Pipeline

1. Image Classification Pipeline [cs231]석사 1학기를 시작하며 "비전 데이터 딥러닝" 과목을 수강 신청하고 오늘 첫 수업을 다녀왔다.본 강의의 base가 cs231n 강의라고 하여 방학동안 공부했던 내용들을 복습도 할 겸 처음부터 다시 강의를 들으며 블로그에 정리할 예정이다.본 강의는 YouTube에 무료로 공개되어 있고 강의 링크는 다음과 같다. 더보기란에 강의 슬라이드 링크도 포함되어 있으니 이를 활용하여 학습하면 된다.강의 링크: https://www.youtube.com/watch?v=OoUX-nOEjG0&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk&index=2 1강은 Introduction이기 때문에 생략하고 바로 2강부터 진행한다. ..

[Paper Review] Explaining and Harnessing Adversarial Examples(FGSM)

논문 리뷰: Explaining and Harnessing Adversairal Examples(FGSM)- 논문 링크: https://arxiv.org/pdf/1412.6572- 예제 코드(with PyTorch): https://github.com/PSLeon24/Paper-Implementation-with-PyTorch/blob/main/FGSM/FGSM.ipynb- 세미나 자료 오늘은 적대적 공격, 적대적 예제를 공부할 때 가장 기반이 되는 논문인 "Explaining and Harnessing Adversarial Examples" 논문을 다루고자 한다.이 논문은 2015년 ICLR에 출판된 논문이며, 논문의 저자는 생성형 적대적 신경망(Generative Adversarial Network:..

딥페이크 범죄 예방이 가능할까?

오늘은 최근 화두가 되고 있는 딥페이크 범죄에 대해 컴퓨터 비전을 전공하는 석사생의 관점에서 이를 예방할 수 있는지에 대해 간단히 포스팅 하고자 한다.먼저, 최근 뉴스에 많이 언급되는 딥페이크 범죄에 사용되는 방법은 크게 Face Swap과 Undress와 같이 두 개로 나눌 수 있다. 먼저,  Face Swap은 어떤 원본 사진이 있을 때 해당하는 사진의 얼굴을 특정인으로 변경하는 방법이다. 다음으로 Undress는 특정인의 전신 사진을 올리면 옷을 벗겨 나체처럼 보이게 하는 등 여러 방법이 있다.이는 GAN(Generative Adversarial Network)이라는 생성형 적대적 신경망 혹은 Diffusion(확산) 모델을 통해 주로 이미지를 만들어 낸다. 이는 쉽게 말하자면, ChatGPT가 기..

[Adversarial Attack] 적대적 공격의 기초 및 종류

적대적 공격의 기초 및 종류1. 적대적 공격(Adversarial Attack)위 이미지는 2015년 ICRL에 출판된 'Explaining And Harnessing Adversarial Examples' 논문에서 소개된 대표적인 Adversarial Attack을 나타내는 그림이다.위 예시를 설명하자면 x라는 input, 즉 정상적인 판다 이미지를 입력했을 때 57.7%의 확률로 판다라고 classification을 한다.하지만, 여기에 0.007(ε) 만큼의 perturbation(일종의 noise)를 이미지에 더한다면 사람의 눈에는 알아차릴 수 없는(unnoticeable) 노이즈가 이미지에 포함되게 되고, 최종적으로 노이즈가 포함된 이미지에 대해 다시 classification을 진행했을 경우,..

[다중시점기하학] 1. 점과 선 - 2차원 사영평면

1. Planar Geometry점과 선 - 2차원 사영평면 (1) 선의 동차 표현(Homogeneous Representation of Lines)  l = (a, b, c)ᵀ(2) 점의 동차 표현(Homogeneous Representation of Points)  x = (x, y, 1)ᵀ(3) 자유도(Degrees of Freedom)  이미지가 변환(transformation)될 때 최소한으로 필요로 하는 독립변수의 수(4) 선의 교점  x = l X l' (외적(cross product)을 사용해서 구할 수 있음)(5) 두 점을 연결하는 직선  l = x X x' (외적(cross product)을 사용해서 구할 수 있음) (6) 평행선의 교점 - 평행한 두 직선은 무한대에서 만남  l x l..