Backpropagation을 이해해야 하는 이유

Deep Neural Network, Machine Learning에 게시됨댓글 남기기

우리가 deep learning를 수행하고자 할 때 이용하는 frameworks에는 deep learning에 필요한 필수적인 함수나 class들이 포함되어 있어서, deep learning의 알고리즘에 집중하게 도와주고, 수학적 기법과 같은 디테일에 대해 코딩해야 하는 수고로움을 덜어 준다. 이처럼 deep learning의 최종 목적지를 위한 tool인 이optimizer 자체의 알고리즘이나 optimizer를 구동하기 위한 gradient 값을 구하는 수고를 덜어 준다는 것은 deep learning 개발자들에게는 매우… Backpropagation을 이해해야 하는 이유 계속 읽기

유난히도 자주…제주여행 in 2016

Life에 게시됨댓글 남기기

여행을 하기위해 자주 여행지를 물색하곤 했지만, 왜 제주는 가려하지 않았는지 의문이다. 물론 국내여행이지만 비행기를 타야 하는 번거로움도 한몫 했으리라…. 올해만 제주를 세번 다녀왔다. 여러 국내여행지 중에서 제주는 단연 최고라는 생각이 든다. 맛집도 많으니 금상첨화다.

Improved techniques for training GANs

Deep Generative Network, Machine Learning에 게시됨댓글 남기기

Generative adversarial networks는 game theory에 기반하여 generative model을 학습하는 방법중의 하나이다. 그런, GAN을 training하는 것은 많은 패러미터를 가진 non-convex game에 대한 Nash equilibrium을 찾아내는 과정이 필요하다. GAN은 일반적으로 gradient descent technique을 이용하여 cost function의 최저값을 찾내는 optimizer를 이용하기보다는, 바람직하게는 game의 Nash equilibrium을 찾아내는 과정이 필요하다. 그러나, Nash equilibrium을 찾기위해 위 algorithm을 사용하면 수렴에 실패하는 경향이… Improved techniques for training GANs 계속 읽기

Markov Chains

Machine Learning, Reinforcement Learning에 게시됨댓글 남기기

본 글은 Setosa blog의 글을 이용하여 번역 및 재해석한 것이다. Andrey Markov의 이름을 딴 Markov chain은 하나의”상태” (state; a situation or set of values) 에서 다른 상태로의 이동/전이를 나타내는 mathematical systems을 말한다. 예를 들며, 어린유아의 행동에 대한 Markov chain model을 만든다면, 상태로는 “playing,” “eating”, “sleeping,” 그리고 “crying” 등을 사용할것이고, 이 상태들로 이루어진 state space(a list… Markov Chains 계속 읽기

Generative Adversarial Networks

Deep Generative Network, Machine Learning에 게시됨댓글 남기기

본글은 Aylien의 블로그를 메인으로 하고 그외 다른 자료를 참조하여 작성되었다. 인공지능 연구가 지향하는 바는 인공지능이 스스로 우리가 사는 세상을 인식하고 이해하는 일일 것이다. 우리 인간이 할수 있는 일은 현재 수준의 인공지능의 관점에서 볼때 엄청난 능력을 갖고 있는 것이다. 단지 속도가 느리다는 것을 제외하고. 인간은 수많은 정보를 보유한 감각기관과 두뇌와 다른 생명기능을 이용하여 정보를 저장하고 처리하며… Generative Adversarial Networks 계속 읽기

Fixed bed reactor simulation

Computer Simulation, Simulation에 게시됨댓글 남기기

촉매가 충전된 Fixed Bed Reactor의 모델링 예이다. Gas phase와 solid(catalyst) phase를 구분하여 모델링한 것이며, 반응은 Haugen Watson type의 rate equation을 사용하였다.(not shown here) 반응기의 외벽으로의 열손실을 가정한 B.C. 설정   상기의 수학적 모델을 computer simulation하면 다음과 같은 촉매반응기의 전형적 온도 분포를 보여 준다.

Catalytic reactor regenration

Computer Simulation, Simulation에 게시됨댓글 남기기

Catalytic Bed Regeneration 충진 반응기내의 촉매를 재생하는 방법으로 superheated steam을 충진층내로 통과시켜 재생하는 방법이 있다. 반응기 내부에 충진되어 있는 촉매층이 모두 재생되기 위해서는 반응기 내부의 촉매의 온도가 모두 700 °C로 온도가 상승되어야 하며 얼마의 시간동안 유지가 되어야 한다. 재생이 되기전 process stream의 온도는 600 °C이다. 이 시스템을 모사하기 위해서는 먼저 수학적 모델을 세워야 하며, 아래와… Catalytic reactor regenration 계속 읽기

Mixing cell model for the SMB

Computer Simulation, Simulation에 게시됨댓글 남기기

Mixing cell model for the SMB SMB (Simulated Moving Bed) process is a countercurrent chromatography separation process whose governing equations could be described as a number of ordinary differential equations with some boundary conditions, when equilibrium cell( or stage) model is applied. As this process is a cyclic-operated process, the process approaches to a dynamic… Mixing cell model for the SMB 계속 읽기