斋藤康毅-深度学习入门 学习笔记二

ch02 感知机

Perceptron.py

import numpy as np

'''
def AND(x1, x2):
    w1, w2, theta = 0.5, 0.5, 0.7
    tmp = w1 * x1 + w2 * x2
    if tmp <= theta:
        return 0
    else:
        return 1
'''


def AND(x1, x2):
    x = np.array([x1, x2])
    w = np.array([0.5, 0.5])
    b = -0.7
    tmp = np.sum(w * x) + b
    if tmp <= 0:
        return 0
    else:
        return 1


def NAND(x1, x2):
    x = np.array([x1, x2])
    w = np.array([-0.5, -0.5])
    b = 0.7
    tmp = np.sum(w * x) + b
    if tmp <= 0:
        return 0
    else:
        return 1


def OR(x1, x2):
    x = np.array([x1, x2])
    w = np.array([0.5, 0.5])
    b = -0.2
    tmp = np.sum(w * x) + b
    if tmp <= 0:
        return 0
    else:
        return 1


def XOR(x1, x2):
    s1 = NAND(x1, x2)
    s2 = OR(x1, x2)
    y = AND(s1, s2)
    return y


print("AND--------------")
print(AND(0, 0))
print(AND(1, 0))
print(AND(0, 1))
print(AND(1, 1))
print("OR--------------")
print(OR(0, 0))
print(OR(1, 0))
print(OR(0, 1))
print(OR(1, 1))
print("NAND--------------")
print(XOR(0, 0))
print(XOR(1, 0))
print(XOR(0, 1))
print(NAND(1, 1))
print("XOR--------------")
print(XOR(0, 0))
print(NAND(1, 0))
print(NAND(0, 1))
print(NAND(1, 1))

使用与非门可以构建出一个计算机，先实现与门和或门，接着实现半加器和全加器，然后实现算术逻辑单元(ALU)，然后实现CPU…
依据基本原理构建现代计算机：从与非门到俄罗斯方块

• 感知机是具有输入和输出的算法。给定一个输入后，将输出一个特定的值
• 感知机将权重和偏置设为参数
• 使用感知机可以表示与门和或门等逻辑门路
• 异或门无法通过单层感知机来表示
• 使用2层感知机可以表示异或门
• 单层感知机只能表示线性空间，而多层感知机可以表示非线性空间
• 多层感知机(在理论上)可以表示计算机

---

斋藤康毅-深度学习入门 专栏