图片
是来自 SegmentFault 上的开发者@二十一总结的 Python 重点。由于总结了很多东西,所以篇幅有点长,这也是作者的“缝缝补补”总结了好久的东西。
图片

Py2 VS Py3

  • 打印成为函数,python2是关键字
  • 不再有unicode对象,默认str就是unicode
  • python3除号返回浮点数
  • 没有了长类型
  • xrange不存在,range替代了xrange
  • 可以使用中文定义函数名变量名
  • 高级解包和*解包
  • 限定关键字参数*后的变量必须加入名字=值
  • iteritems 移除变成items()
  • yield from 链接子生成器
  • asyncio,async/await 原生协程支持异步编程
  • 添加 enum、mock、ipaddress、concurrent.futures、asyncio urllib、selector
    • 不同类间不能进行比较
    • 同一枚举类之间只能进行相同的比较
    • 枚举类的使用(编号默认从1开始)
    • 为了避免枚举类中相同的枚举值的出现,可以使用@unique装饰枚举类

# 的注意事项
from enum import Enum

class COLOREnum ):
YELLOW= 1
#YELLOW=2#会
GREEN= 1不会报错,GREEN 枚举可以是YELLOW的别名
BLACK= 3
RED= 4
print( COLOR.GREEN)#COLOR.YELLOW,还是会打印出YELLOW
for i in COLOR:#遍历一下COLOR并不会有GREEN
print(i)
#COLOR.YELLOW\nCOLOR.BLACK\nCOLOR.RED\n怎么把另类遍历出来
for i in COLOR.__members__.items():
print(i)
# output:(‘YELLOW’, <COLOR.YELLOW: 1>)\n(‘GREEN’, <COLOR.YELLOW: 1>)\n( ‘BLACK’, <COLOR.BLACK: 3>)\n(‘RED’, <COLOR.RED: 4>)
for i in COLOR.__members__:
print(i)
# output:YELLOW\nGREEN\nBLACK\nRED

#枚举转换
#最好在数据库访问使用枚举的数值而不是使用标签
姓名字符串#在代码里面使用张举类
a= 1
print(COLOR(a)) # output:COLOR.YELLOW

py2/3 转换工具

  • 六模块:pyton2和pyton3的模块
  • 2to3工具:修改代码语法版本
  • __future__:使用下一个版本的功能

常用的库

  • 必须知道的收藏

    https://segmentfault.com/a/1190000017385799

  • python排序操作及heapq模块

    https://segmentfault.com/a/1190000017383322

  • itertools模块超实用方法

    https://segmentfault.com/a/1190000017416590

不常用但很重要的库

  • dis(代码字节码分析)
  • 检查(生成器状态)
  • cProfile(性能分析)
  • bisect(维护有序列表)
  • 匹配
    • fnmatch(string,”*.txt”) #win下不离散大小写
    • fnmatch根据系统决定
    • fnmatchcase 完全变量大小写
  • timeit(代码执行时间)

def isLen (strString) :
#还是应该使用三元表达式,更快
return True if len(strString)> 6 else False

def isLen1 (strString) :
#这里注意false和true的位置
return [ False , True ][len (strString)> 6 ]
import timeit
print(timeit.timeit( ‘isLen1(“5fsdfsdfsaf”)’ ,setup= “from __main__ import isLen1” ))

print(timeit.timeit( ‘isLen(“5fsdfsdfsaf”)’ ,setup= “从 __main__ 导入 isLen” ))

  • 上下文库
    • @contextlib.contextmanager使生成器函数变成一个上下文管理器
  • 类型(包含标准了器定义的所有类型的对象,可以将生成器功能解释为异步模式)

import types
types.coroutine #相当于实现了__await__

  • html(实现对html的转义)

import html
html.escape( “<h1>I’m Jim</h1>” ) # output:'<h1>I’m Jim</h1>’
html.unescape( ‘<h1>我是吉姆</h1>’ ) # <h1>我是吉姆</h1>

  • mock(解决测试依赖)
  • 并发(创建线程池和线程池)

from concurrent.futures import ThreadPoolExecutor

pool = ThreadPoolExecutor()
task = pool.submit(函数名,(参数)) #此方法不会申请,会立即返回
task.done() #查看任务执行是否完成
task.result() #阻塞的方法,查看任务返回值
task.cancel() #取消未执行的任务,返回真或假,取消成功返回真
task.add_done_callback() #回调函数
task.running() #是否正在执行的任务就是一个Future对象

for data in pool.map(函数,参数列表): #返回已经完成的任务结果列表,根据参数顺序执行
print(返回任务完成得执行结果数据)

from concurrent.futures import as_completed
as_completed(任务列表) #返回已经完成的任务列表,完成一个执行一个

wait(任务列表,return_when=条件) #根据条件进行主线程,有四个条件

  • selector(封装select,用户多路圆周io编程)
  • 异步

future=asyncio.ensure_future(协程) 未来=loop.create_task(协程)
future.add_done_callback() 添加一个完成后的功能函数
loop.run_until_complete(future)
future.result()查看写成返回结果

asyncio .wait()接受一个可迭代的协程对象
asynicio.gather(*可迭代对象,*可迭代对象),两者结果相同,但聚集可以批量取消,收集对象.cancel()

一个线程中只有一个环

在loop.stop时一定要loop.run_forever()否则会报错
loop.run_forever()可以执行辅助非程
最后执行finally模块中loopclose.()

asyncioTask.all_tasks()所有任务然后完成并并任务.cancel()取消

偏函数partial(函数,参数)把函数包装成另一个函数名其参数必须定义函数的

前面loop.call_soon(函数,参数)
call_soon_threadsafe()线程安全
loop.call_later(时间,函数,参数)
在同一代码块中call_soon优先执行,然后多个根据时间的升序进行

如果执行非要运行有视频的代码
使用loop.run_in_executor(executor,函数,参数)包装成一个多线程,然后通过动态到一个任务列表中,通过wait来(task

list ) 运行通过asyncio实现
reader,writer=await_open_connection(host,port) )
writer.writer()发送请求
async for data in reader:
data=data.decode( “utf-8” )
list.append(data)
然后list中存储的就是html

as_completed(tasks)完成一个返回一个,返回的是一个可迭代对象

协程锁
async with Lock():

蟒蛇进阶

  • 过程间通信:
    • Manager(内置了多种数据结构,可以实现多进程间内存共享)

from multiprocessing import Manager,Process
def add_data (p_dict, key, value) :
p_dict[key] = value

if __name__ == “__main__” :
progress_dict = Manager().dict()
from queue import PriorityQueue

first_progress = Process(target=add_data , args=(progress_dict, “bobby1” , 22 ))
second_progress = Process(target=add_data, args=(progress_dict, “bobby2” , 23 ))

first_progress.start()
second_progress.start()
first_progress.join()
second_progress.join()

打印(progress_dict)

    • 管道(适用于两个进程)

from multiprocessing import Pipe,Process
#pipe 的性能优于queue
def producer (pipe) :
pipe.send( pipe ” )

def consumer (pipe) :
print(pipe.recv())

if __name__ == “__main__” :
recevie_pipe , send_pipe = Pipe()
#pipe 只能适用于两个进程
my_producer= Process(target=producer, args=(send_pipe, ))
my_consumer = Process(target=consumer, args=(recevie_pipe,))

my_producer.start()
my_consumer.start()
my_producer.join()
my_consumer.join()

    • Queue(不能用于流程池,流程池间通信需要使用Manager().Queue())

多处理进口队列,过程
DEF 生产者(队列)
queue.put(“A”
time.sleep(2

DEF 消费者(队列)
time.sleep(2
数据= queue.get()
打印(数据)

,如果__name__ == “__main__” :
queue = Queue( 10 )
my_producer = Process(target=producer, args=(queue,))
my_consumer = Process(target=consumer, args=(queue,))
my_producer.start()
my_consumer. start()
my_producer.join()
my_consumer.join()

    • 画池

DEF 生产者(队列)
queue.put( “A”
time.sleep( 2

DEF 消费者(队列)
time.sleep( 2
数据= queue.get()
打印(数据)

如果__name__ == “__main__” :
queue = Manager().Queue( 10 )
pool = Pool( 2 )

pool.apply_async(producer, args=(queue,))
pool.apply_async(consumer, args=(queue,))

pool.close()
pool.加入()

  • sys模块常用方法
    • argv 命令行参数列表,第一个是程序制作的路径
    • path 返回模块的搜索路径
    • modules.keys() 返回已经导入的所有模块的列表
    • exit(0) 退出程序
  • a in s or b in s or c in s简写
    • 采用any 方式all(): 任何可替换对象为空返回True

# 方法一
True in [i in s for i in [a,b,c]]
# 方法二
any(i in s for i in [a,b,c])
# 方法三
list(filter( lambda x:x)s,[a,b,c]))

  • 集合集合造型
    • {1,2}.issubset({1,2,3})#判断是否是其子集
    • {1,2,3}.issuperset({1,2})
    • {}.isdisjoint({})#判断两个集合交集是否为空,是空集则为真
  • 代码中文匹配
    • [u4E00-u9FA5]匹配中文文字区间[一到龥]
  • 查看系统默认编码格式

import sys
sys.getdefaultencoding() # setdefaultencodeing()设置系统编码方式

  • 获取属性 VS 获取属性

class A(dict):
def __getattr__ (self,value) : #当访问属性不存在的时候返回
return 2
def __getattribute__ (,item) : #屏蔽所有的元素访问
return item

  • 类变量是不会存入实例__dict__中的,未来存在于类的__dict__中
  • globals/locals(可以变相操作代码)
    • globals 中保存了当前模块中所有的变量属性与值
    • locals 中保存了当前环境中的所有变量属性与值
  • python变量名的解析机制(LEGB)
    • 本地作用域(Local)
    • 当前作用域被嵌入的本地作用域
    • 全局/模块作用域(Global)
    • √ 作用域(内置)
  • 实现从1-100每三个为一组成绩

打印([[x for x in range( 1 , 101 )][i:i+ 3 ] for i in range( 0 , 100 , 3 )])

  • 什么是元类?
    • 即创建类的类,创建类的时候很喜欢metaclass=元类,元类需要继承类型而不是对象,因为类型就是元类

type.__bases__ #(<class ‘object’>,)
object.__bases__ #()
type(object) #<class ‘type’>

class Yuan(type):
def __new__ (cls,name,base,attr,*args,**kwargs) :
return type(name,base,attr,*args,**kwargs)
class MyClass(metaclass=Yuan):
pass

  • 什么是鸭子类型(即:多态)?
    • Python在使用参数的过程中不会默认判断参数类型,只要参数有执行条件就可以执行
  • 浅拷贝和浅拷贝
    • 浅拷贝拷贝内容,浅拷贝拷贝地址(增加引用计数)
    • 复制模块实现神复制
  • 单元测试
    • 一般测试类继承模块unittest下的TestCase
    • pytest模块快捷测试(方法以test_开头/测试文件以test_开头/测试类以测试开头,并且不能带着init方法)
    • 覆盖率统计测试覆盖率

class MyTest(unittest.TestCase):
def tearDown (self) : #六测试用例执行前执行
print(本方法开始测试了’ )

def setUp (self) : #测试用例执行之前的操作
print( ‘本方法测试结束’ )

@classmethod
def tearDownClass (self) : # 必须使用@classmethod装饰器,所有测试运行完后运行一次
print( ‘开始测试’ )
@classmethod
def setUpClass (self) : #必须使用@classmethod装饰器,所有test运行前运行一次
print( ‘结束测试’ )

def test_a_run(self) :
self.assertEqual( 1 , 1 ) # 测试用例

  • gil会根据执行的字节码行数以及时间片释放gil,gil在遇到io的时候操作主动释放
  • 什么是猴子补丁?
    • 猴子打补丁,在运行的修改替换掉会发生的语法为非日常的方法
  • 什么是自省(Introspection)?
    • 运行时判断一个对象的类型的能力,id,type,isinstance
  • python是值传递还是引用传递?
    • 都不是,python是共享传参,默认参数在执行时间执行一次
  • try-except-else-finally中else和finally的区别
    • 否则在不发生异常的时候执行,终于有没有发生异常异常执行
    • 除了一次可以多一些不同的异常,但一般是为了对异常进行不同的处理,我们分次食品处理
  • GIL解释器锁
    • 同一时间唯一有一个线程执行,CPython(IPython)的特点,其他解释器不存在
    • cpu密集型:多进程+进程池
    • io密集型:多线程/协程
  • 什么是Cython
    • 将python解释成C代码工具
  • 生成器和迭代器
    • 可迭代对象只需要实现__iter__方法
      • 实现__next__和__iter__方法的对象就是迭代器
    • 使用生成器表达式或yield的生成器函数(生成器是一种特殊的迭代器)
  • 什么是协程
    • 屈服
    • async-awiat
      • 比线程更轻量的多任务方式
      • 实现方式
  • 字典结构
    • 为了支持快速查找使用了哈希表作为结构
    • 哈希表平均查找时间复杂度为o(1)
    • CPython解释器使用二次探查解决哈希冲突问题
  • 哈希扩容和哈希冲突解决方案
    • 链接法
    • 二次探查(开放访问法):python使用
      • 循环复制到新空间实现扩容
      • 冲突解决:

for gevent import monkey
monkey.patch_all() #将代码中所有的发布方法都进行修改,可以指定具体要修改的方法

  • 判断是否为生成器或者协程

co_flags = func.__code__.co_flags

#检查是否是协程
if co_flags & 0x180 :
return func

#检查是否是生成器
if co_flags & 0x20 :
return func

  • 斐波那契解决的问题及变形

#三只青蛙一次可以跳上1级,也可以跳上2级。求该青蛙跳上一个级的台阶。有多少种跳法。
#求n个2*1的小椭圆无重叠地覆盖一个2*n的大椭圆,方式有多少种方法?
#一:
fib = lambda n: n if n <= 2 else fib(n – 1 ) + fib(n – 2 )
#方式二:
def fib (n) :
a, b = 0 , 1
for _ in range(n):
a, b = b, a + b
return b

#一只青蛙一次可以跳上1级台阶,也可以跳上2级……它也可以跳上ñ级求该青蛙跳上一个ñ级的台阶总共有多少种跳法。
FIB =拉姆达N:N如果ñ< 2 别的 2 * FIB(N –1 )

  • 获取电脑设置的环境变量

import os
os.getenv(env_name, None ) #获取环境变量如果不存在为None

  • 垃圾回收利用
    • 引用计数
    • 标记清除
    • 分代回收

#查看分代回收触发
import gc
gc.get_threshold() #output:(700,10,10)

  • 真和假在代码中完全等价于1和0,可以直接和数字进行计算,inf表示无穷大
  • C10M/C10K
    • C10M:8核心cpu,64G内存,在10gbps的网络上保持1000同时连接
    • C10K:1GHz CPU,2G内存,1gbps网络环境下保持1万个客户端提供FTP服务
  • yield from与yield的区别:
    • yield from 是一个可迭代对象,而yield 没有限制
    • GeneratorExit生成器停止时触发
  • 单下划线的几种用法
    • 在定义变量时,表示为变量
    • 在解包时,表示舍弃无用的数据
    • 在交互模式中显示上一次代码执行结果
    • 可以做数字的数字(111_222_333)
  • 使用break就不会执行else
  • 10 件转2位

def conver_bin (num) :
if num == 0 :
return num
re = []
while num:
num, rem = divmod(num, 2 )
re.append(str(rem))
return “” .join(reversed(re)) )
conver_bin( 10 )

  • list1 = [‘A’, ‘B’, ‘C’, ‘D’] 如何得到以list中元素命名的新列表A=[],B=[],C=[],D=[]呢

list1 = [ ‘A’ , ‘B’ , ‘C’ , ‘D’ ]

# 方法一
for i in list1:
globals()[i] = [] # 可以用于实现python版反射

#方法二
for i in list1:
exec(f ‘{i} = []’ ) # exec执行字符串语句

  • memoryview与bytearray$\color{#000}(不常用,只是看到了记载一下)$

#bytearray是不会呼吸的,bytes是产生不呼吸的,memoryview新和新对象
a = ‘aaaaaa’
ma = memoryview(a)
ma.readonly #只读的memoryview
mb = ma[: 2 ] #不会新的字符串

a = bytearray( ‘aaaaaa’ )
ma = memoryview(a)
ma.readonly # 可写的memoryview
mb = ma[: 2 ] # 不会产生新的bytearray
mb[: 2 ] = ‘bb ‘ # 对mb的改变就是对ma的改变

  • 省略号类型

# 代码中出现…省略号对象的食欲就是一个EllipsisL
= [ 1 , 2 , 3 ]
L.append(L)
print(L) # output:[1,2,3,[…]]

  • 懒惰计算

class lazy(object):
def __init__ (self, func) :
self.func = func

def __get__ (self, instance, cls) :
val = self.func(instance) #其等效执行的area(c),c为下面的Circle对象
setattr(instance, self.func.__name__, val)
return val`

class Circle(object):
def __init__ (self, radius) :
self.radius = radius

@lazy
def area (self) :
print( ‘evalute ‘ )
返回 3.14 * self.radius ** 2

  • 遍历文件,一个文件夹,将里面所有文件的路径打印出来()

all_files = []
def getAllFiles (directory_path) :
import os
for sChild in os.listdir(directory_path):
sChildPath = os.path.join(directory_path,sChild)
if os.path.isdir(sChildPath):
getAllFiles(sChildPath)
else :
all_files.append(sChildPath)
返回all_files

  • 文件存储时,文件名的处理

#secure_filename将字符串转化为安全的文件名
from werkzeug import secure_filename
secure_filename( “My cool movie.mov” ) # output:My_cool_movie.mov
secure_filename( “../../../etc/passwd” ) # output :etc_passwd
secure_filename( u’i contains cool \xfcml\xe4uts.txt’ ) # output:i_contain_cool_umlauts.txt

  • 日期订

from datetime import datetime

datetime.now().strftime( “%Y-%m-%d” )

import time
#这里只有localtime可以被格式化,time是不能格式化的
time.strftime( “%Y-%m -%d” ,time.localtime())

  • 元组使用+=相同的问题

# 会报错,但是元组的值会改变,因为 t[1]id 没有发生变化
t=( 1 ,[ 2 , 3 ])
t[ 1 ]+=[ 4 , 5 ]
# t[1]使用append\扩展方法并不会报错,并可以成功执行

  • __missing__你应该知道

class Mydict(dict):
def __missing__ (self,key) : # 当Mydict使用访问访问属性不存在的时候返回值
return key

  • +与+=

#+不能使用连接列表和元祖,而+=可以(通过iadd实现,内部实现方式为extends(),所以可以增加元组),+会创建新对象
#不添加对象没有__iadd__,直接使用是__add__方法,因此元祖可以使用+=进行元祖之间的相加

  • 如何将一个可访问对象的所有键变成一个可访问对象的所有键?

dict.fromkeys([ ‘jim’ , ‘han’ ], 21 ) # 输出:{‘jim’: 21, ‘han’: 21}

  • wireshark抓包软件

网络知识

  • 什么是HTTPS?
    • 安全的HTTP协议,需要https证书,数据智能,端口为443,安全,同一网站httpsseo学生会上升
  • 常见响应状态码

204无内容 // 请求成功处理,没有实体的主体返回,一般表示删除成功
206部分内容 //获取范围请求已成功处理
303查看其他 // 临时寻找,期望使用获取定向获取
304未修改/ /请求缓存资源
307 Temporary Redirect //参数目标,发布不会Get
401 Unauthorized //认证失败
403 Forbidden //资源请求被拒绝
400 //请求错误
201 //添加或更改成功
503 //服务器维护或超载

  • http请求方法的幂等性及安全性
  • WSGI

#environ:一个包含所有HTTP请求信息的dict对象
# start_response:一个发送HTTP响应的函数
def application (environ, start_response) :
start_response( ‘200 OK’ , [( ‘Content-Type’ , ‘text/html’ ) ])
返回 ‘<h1>Hello, web!</h1>’

  • RPC
  • CDN
  • SSL(Secure Sockets Layer 安全套层)及其继任者接层安全(Transport Layer Security,TLS)是为网络通信提供安全及数据注册的一种安全协议。
  • SSH(安全外壳协议)为 Secure Shell 的缩写,由 IETF 的网络小组(Network Working Group)所制定;SSH 为建立在应用层基础上的安全协议。SSH 是目前较可靠,专为远程登录会话和其他网络服务提供安全性的协议。利用 SSH 协议可以有效防止远程管理过程中的信息使用问题。SSH 最初是 UNIX 系统上的一个程序,后来又迅速扩展到其他操作平台正确。SSH 在时可结网络中的漏洞。SSH客户端适用于多种平台。几乎所有UNIX平台——包括HP-UX、Linux、AIX、Solaris、Digital UNIX、Irix,以及其他平台,都可以运行SSH。
  • TCP/IP
    • TCP:连接/依赖/基于字节流
    • UDP:无连接/不可靠/一篇报道文
    • 第三次招手四次挥手
      • 第三次握手(SYN/SYN+ACK/ACK)
      • 四次挥手(FIN/ACK/FIN/ACK)
    • 为什么连接的时候是第三次握手,关闭的时候是四次握手?
      • 因为当Server端客户端的SYN连接请求报文后,可以直接发送SYN+ACK报文。其中ACK报文是收到收到的,SYN报文是同步的。但是关闭连接时,当Server端收到FIN报时,很可能并不会立即关闭SOCKET,所以只能先回复一个ACK报文,告诉客户端,“你发的FIN报文我收到了”。只有等我服务器端所有的报文都发送完毕,我不能发送文报,因此不能一起发送。所以需要四步招呼。
    • 为什么TIME_WAIT状态需要经过2MSL(最大报文段生存时间)才能返回到CLOSE状态?
      • 既然按了循规蹈矩,四报文都已经发送完毕,我们可以直接进入关闭状态了,但是我们必须要进入象网是不可靠的,有可能最后一次遗失。文。
  • XSS/CSRF
    • HttpOnly禁止js脚本访问和操作Cookie,可以有效防止XSS

mysql

  • 改进方法
    • 线性结构->二分查找->hash->二叉查找树->平衡二叉树->多路查找树->多路平衡查找树(B-Tree)
  • Mysql面试总结基础篇

    https://segmentfault.com/a/1190000018371218

  • Mysql面试总结进阶篇

    https://segmentfault.com/a/1190000018380324

  • 深入浅出Mysql

    http://ningning.today/2017/02/13/database/深入浅出mysql/

  • 清空整个表时,InnoDB 是一行一行的删除,而MyISAM 规范从新删除建表
  • text/blob 数据类型不能有默认值,时不存在大小写转换
  • 什么时候失效
    • 以%开头的喜欢模糊查询
    • 出现隐式类型转换
    • 没有满足最左边的原则
      • 对于多列索引,不是使用的第一部分,则不会使用索引
    • 失效场景:
      • 应尽量避免在子句中使用!=或<>操作符,否则引擎将脱离使用索引而进行全表扫描
      • 尽量避免在子句中使用或来连接条件的地方,否则将导致引擎放弃使用索引而进行全表扫描,即使有条件带索引也不会使用,也是为了减少或这的原因
      • 如果一列类型是字符串,那一定要在条件中将数据引用起来,否则不会使用索引
      • 应尽量避免在子句中对字段进行函数操作,这将导致引擎脱离使用而进行全表扫描

例如:
select id from t where substring (name, 1 , 3 ) = ‘abc’ – name;
以abc开头的,应改成:
select id from t where name like abc%
例如:
select id from t where datediff ( day , createdate, ‘2005-11-30’ ) = 0‘2005-11-30’ ;
应改为:

      • 不要在子中的“=”的地方
      • 应尽量避免在子句中对字段进行表达式操作,这将导致发动机脱离使用而进行全表扫描

如:
select id from t where num/ 2 = 100
应改为:
select id from t where num = 100 * 2

      • 不适合键值具体列(重复数据可能的列)例如:set enum 适合(枚举类型(enum)可以添加null,并且默认的值会自动过滤分组集合(set)和枚举)类似,但只能添加64个值)
      • 如果MySQL估计使用全表扫描使用索引快,则不使用索引
  • 什么是地方
    • B+Tree 叶子节点保存的是数据还是路径
    • MyISAM 索引和数据分离,使用非集中
    • InnoDB数据文件就是文件,主键索引就是索引

Redis命令总结

  • 为什么这么快?
    • 基于内存,由C语言写
    • 使用多路I/O悉尼模型,非现场IO
    • 使用单线程线程间切换
      • 因为Redis是基于内存的,CPU最有可能是内存机器的大小网络网络操作。了(出现了很多问题!)。
    • 数据结构简单
    • 自己构建了VM机制,减少调用系统函数的时间
  • 优势
    • 性能高 – Redis能读的速度是110000次/s,写的速度是81000次/s
    • 大量的数据类型
    • 原子 – Redis 的所有操作都是原子性的,同时 Redis 还支持对几个操作全并后的原子性执行
    • 丰富的特性 – Redis 还支持发布/订阅(发布/订阅)、通知、关键更新等等特性
  • 什么是redis事务?
    • 将有一些请求包裹,按顺序执行一些命令的机制
    • 通过multi,exec,watch等命令实现事务功能
    • Python redis-py pipeline=conn.pipeline(transaction=True)
  • 持久化方式
    • RDB(截图)
      • save(同步,可以保证数据)
      • bgsave(异步,关机时,无AOF则默认使用)
    • AOF(追加日志)
  • 怎么实现
    • 流行音乐
  • 常用的数据类型(Bitmaps,Hyperlogs, Range Discovery等不常用)
    • String(字符串): 遥控器
      • 唱或sds(Simple Dynamic String)
    • 列表(列表):用户的关注,粉丝列表
      • ziplist(连续内存块,入口节点隐匿持续时间长度信息或实现链表功能)
    • 哈希(哈希):
    • Set(集合):用户的关注者
      • 集合或哈希表
    • Zset(顺序集合):实时信息排行榜
      • skiplist(跳跃表)
  • 与Memcached的区别
    • Memcached 唯一存储字符串键
    • Memcached 用户只能通过 APPEND 的方式将数据添加到现有的字符串的隐藏列表中,将这个字符串当做列表来使用。但是在删除这些元素的时候,Memcache 则采用了通过黑列表的方式来隐藏列表里的元素,从而避免了对元素的读取、更新、删除等操作
    • Redis 和缓存都将数据全部存储在内存中,都是内存数据库。不过内存缓存用于缓存其他,例如图片视频等等
    • 虚拟内存——当物理内存用完,可以将一些没有时的Redis的价值交换到磁盘
    • 存储数据安全——Memcached挂掉后,数据没了;Redis可以随时保存到磁盘(持久化)
    • 应用场景不一样:Redis 出来作为 NoSQL 数据库使用外,还可以做消息数据库、数据查询和数据缓存等;Memcached 适合于查看 SQL 语句、数据集、用户临时性数据、延迟数据查询和 Session 等
  • Redis实现应用锁
    • 使用setnx实现加锁,同时可以通过expire超时时间
    • 锁的值可以是一个随机的uuid或者特定的一种
    • 释放锁的时候,通过uuid判断是否是该锁,是则执行删除释放锁
  • 常见问题
    • 缓存雪崩
      • 修改数据过期,大量请求访问数据库
    • 缓存刷新
      • 请求访问数据时,查询中不存在,数据库中也不存在
    • 紧急注意
      • 初始化项目,将部分常用数据加入审核
    • 有更新
      • 数据更新,进行更新修正数据
    • 及时降级
      • 当访问量剧增加、服务出现问题(如响应时间缓慢或不响应)或非核心服务影响到核心流程的时间,仍然需要保证服务仍然可用,即使是有损数据服务。进行自动降级,也可以配置开关自动降级
  • 一致性算法
    • 使用时间的时候保证数据的一致性
  • 基于redis实现一个应用锁,要求一个超时的参数
    • 设置
  • 虚拟内存
  • 内存擦

Linux

  • Unix 情感/o 模型
    • 电竞
    • 非她io
    • 多路美食(Python下使用selectot实现io多路美食)
      • 选择
        • 并发不高,连接数很正常的情况下
      • 轮询
        • 比选择提高的不多
      • 民意调查
        • 适用于连接数量的情况,但活动链接数少的情况
    • 信号灯
    • 异步io(Gevent/Asyncio实现异步)
  • 比人更好的使用命令手册
    • tldr:一本命令示例的手册
  • kill -9和-15的区别
    • -15:程序立即停止/当程序释放所有资源之后停止/程序可能继续运行
    • -9:由于-15的本质性,所以直接使用-9立即创作过程
  • 分页机制(逻辑地址和物理地址的内存分配管理方案):
    • 为了高效管理内存,减少一点
    • 程序的逻辑地址划分为固定大小的页
    • 物理地址划分为同样大小的帧
    • 通过页表对应的逻辑地址和物理地址
  • 翻译对应
    • 为了满足代码的一些逻辑需求
    • 数据共享/数据保护/动态链接
    • 若干段内部连续分配,段和段之间是离散分配的
  • 查看cpu内存使用情况?
    • 最佳
    • 免费查看内存,排查内存问题

设计模式

单例模式

#方式一
DEF (CLS,*指定参数时,** kwargs)
实例= {}
DEF get_instance (*指定参数时,** kwargs)
如果CLS 实例:
实例[CLS] = CLS(*指定参数时,** kwargs )
return instances[cls]
return get_instance
@Single
class B :
pass
# 方式
二类 Single :
def __init__ (self) :
print( “单例模式实现方式二。。。” )

single = Single()
del Single # 每次调用single就可以了
#方式三(最常用的方式)
class Single :
def __new__ (cls,*args,**kwargs) :
if not hasattr(cls, ‘_instance’ ):
cls._instance = super( ).__new__(cls,*args,**kwargs)
返回cls._instance

工厂模式

class Dog :
def __init__ (self) :
print( “Wang Wang Wang” )
class Cat :
def __init__ (self) :
print( “Miao Miao Miao” )

def fac (animal) :
if animal.lower() == “dog “ :
return Dog()
if animal.lower() == “cat” :
return Cat()
print( “对不起,必须是:dog,cat” )

构造模式

class Computer:
def __init__(self,serial_number):
self.serial_number = serial_number
self.memory = None
self.hadd = None
self.gpu = None
def __str__(self):
info = (f’Memory:{self.memoryGB}’ ,
‘Hard Disk:{self.hadd}GB’,
‘Graphics Card:{self.gpu}’)
return ”.join(info)
class ComputerBuilder:
def __init__(self):
self.computer = Computer(‘Jim1996’ )
def configure_memory(self,amount):
self.computer.memory = amount
return self #为了方便链式调用
def configure_hdd(self,amount):
pass
def configure_gpu(self,gpu_model):
pass
class HardwareEngineer:
def __init__(self):
self.builder = None
def constructor_computer(self,memory,hdd,gpu)
self.builder = ComputerBuilder()
self.builder.configure_memory(memory).configure_hdd(hdd).configure_gpu(gpu)
@property
def computer(self):
return self.builder.computer

数据结构和算法内置数据结构和算法

python实现各种数据结构

快速排序

def quick_sort (_list) :
if len(_list) < 2 :
return _list
pivot_index = 0
pivot = _list(pivot_index)
left_list = [i for i in _list[:pivot_index] if i < pivot]
right_list = [i for i in _list [pivot_index:] if i > pivot]
return quick_sort(left) + [pivot] + quick_sort(right)

选择排序

def select_sort (seq) :
n = len(seq)
for i in range(n- 1 )
min_idx = i
for j in range(i+ 1 ,n):
if seq[j] < seq[min_inx]:
min_idx = j
if min_idx != i:
seq[i], seq[min_idx] = seq[min_idx],seq[i]

插入排序

DEF insertion_sort (_list)
N = LEN(_list)
用于范围( 1,N):
值= _list [I]
POS = I
,而POS> 0 值<_list [POS – 1 ]
_list [POS] = _list [pos – 1 ]
pos -= 1
_list[pos] = value
print(sql)

归并排序

def merge_sorted_list (_list1,_list2) : #合并
排序列表len_a, len_b = len(_list1),len(_list2)
a = b = 0
sort = []
while len_ > a and len_b > b:
if _list1[a] > _list2[b]:
sort.append(_list2[b])
b += 1
else :
sort.append(_list1[a])
a += 1
if len_a > a:
sort.append(_list1[a:])
if len_b > b:
sort.append(_list2[b:])
return sort

def merge_sort(_list) :
if len(list1)< 2 :
return list1
else :
mid = int(len(list1)/ 2 )
left = mergesort(list1[:mid])
right = mergesort(list1[mid:])
return merge_sorted_list(左右)

堆叠排序heapq模块

from heapq import nsmallest
def heap_sort (_list) :
return nsmallest(len(_list),_list)

from collections import deque
class Stack :
def __init__ (self) :
self.s = deque()
def peek (self) :
p = self.pop()
self.push(p)
return p
def push (self, el) :
self .s.append(el)
def pop (self) :
return self.pop()

from collections import deque
class Queue :
def __init__ (self) :
self.s = deque()
def push (self, el) :
self.s.append(el)
def pop (self) :
return self.popleft()

二分查找

def binary_search (_list,num) :
mid = len(_list)// 2
if len(_list) < 1 :
return Flase
if num > _list[mid]:
BinarySearch(_list[mid:],num)
elif num < _list[ mid]:
BinarySearch(_list[:mid],num)
else :
return _list.index(num)

面试题:

关于数据库优化及设计

https://segmentfault.com/a/1190000018426586

  • 如何使用两个栈实现一个方法
  • 联链表
  • 合并两个链表
  • 删除链表节点
  • 似二叉树
  • 设计短网址服务?62种方式实现
  • 设计一个秒杀系统(feed流)?

    https://www.jianshu.com/p/ea0259d109f9

  • 为什么mysql数据库的键使用自增的能比较好?使用uuid可以吗?为什么?
    • 如果 InnoDB 的数据写入顺序能和 B+树索引的起始节点顺序一致的话,这时候表访问吞吐量是最高的。为了存储和性能应该使用自增长 ID 做主查询。
    • 对于InnoDB的主索引,数据会按照主键进行自排序,因为UUID的无性,InnoDB会产生产生的IO压力,不适合使用UUID做物理主键,可以把它当作逻辑主键,物理主键仍然使用增ID。为了其他的唯一性,应该用uuid做索引关联其他表或做外键
  • 如果是民间系统下我们怎么生成数据库的自增id呢?
    • 使用redis
  • 基于redis实现一个应用锁,要求一个超时的参数
    • 设置
    • setnx + 过期
  • 如果redis个别处理事件发生了,如何?还有其他的解决方案实现了锁码?
    • 使用hash协议

即时算法

  • LRU(least-recent-used):最近最少使用的对象
  • LFU(Least 经常使用):最不经常使用,如果有一个数据在近期内使用次数很少,那么在以后可能内被使用的问题也能保证

服务端性能优化方向

  • 使用数据结构和算法
  • 数据库
    • 优化优化
    • 慢查询删除
      • slow_query_log_file开启并且查询慢查询日志
      • 通过解释排查索引问题
      • 调整数据修改索引
    • 操作,从而减少操作
    • 使用NoSQL:例如Redis
  • 网络
    • 示范操作
    • 管道
  • 此刻
    • Redis
  • 异步
    • Asyncio 实现异步操作
    • 使用Celery减少io流量
  • ……
    • 多线程
    • 万事达

作者 aiforum

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注