謝邀。
我不是專門做極值圖論的，說一下我了解的部份，如果有錯歡迎指正。
隨機圖一直是純數，應數，TCS都關註的方向。純數關註於隨機性和偽隨機性，比如regularity lemma，還有隨機圖本身的性質，應數和TCS會做一些network的模型，聽我一個做TCS的朋友說，這個方向一度很火，發了很多science和nature，但是現在的話該有的模型也都已經有了，大概變成基礎知識了吧。
Random Graph的起源我想應該是1959年Erdos和Renyi的一篇文章，首次提出了Erdos-Renyi Graph。Random Graph的定義我想題主應該知道，是一個概率空間 (\Omega,\mathcal{F},\mathbb{p}) ，其中 \Omega 是一個圖的family（或者更一般的定義 X:\Omega\to\mathcal{G} ）。隨機圖的定義等價於 \mathbb{N} 上的random subset，所以研究堆壘數論也會用到。
說句題外話，Renyi有一句很有名的話大家應該都聽說過：數學家是可以把咖啡轉化成定理的機器。然而我喝了咖啡除了多去幾次廁所就沒別的了。
隨機圖的本質是概率論和隨機過程，主要方法是概率方法，研究的方向很多，比如隨機圖本身的性質，Ramsey Problems，確定各種threshold。還有和其他方向的結合，比如我最近在做的一個問題是確定genus of random graphs generated by graphon。Graphon（可測函數 W:\Omega^2\to [0,1] ）可以生成比Erdos-Renyi graph更一般的隨機圖。另外最近random graph processes也很火，比較流行的是differential equation method，引入ODE和PDE中強有力的分析工具解決離散的問題，已經解決了很多猜想了。
另外在數論上，我們也有pseudorandom graph來描述偽隨機：不嚴格的說，具有隨機性的確定的圖。比如regularity lemma可以把大的圖（或者等價的，大的 \mathbb{N} 的子集）分成常數 k 部份，使得幾乎每兩部份之間的邊都是偽隨機的，其中偽隨機的「程度」只和 k 有關。pseudorandomness還可以和圖的spectrum聯系起來，因此可以使用代數工具，是一個很rich的理論。有興趣可以讀一下D. Conlon和J. Fox的論文。但是Regularity Lemma中常數 k 太大了，最近2012年附近兩個大牛組各自獨立發明的新工具Hypergraph Container Method目前更好用一些。
有一個組合數學的獎，忘記名字了，明天睡醒查一下，兩年頒發一次，上上上次頒給的是研究數論中的隨機性的結果（regularity lemma的application），上上屆是頒給container method，上屆是給的研究隨機圖過程的differential equation method，大概可以看出隨機圖在組合數學中的地位。
回到random graph，我這個回答並沒有列太多數學公式，因為看到這個邀請時已經淩晨一點了，現在兩點了。。這裏推薦一些經典教材，假設已經學過概率論，隨機過程，線性代數和抽象代數。
首先是概率方法最經典的教材：Noga Alon, Joel Spencer, The Probabilistic Method.
隨機圖論有三本經典教材，這裏推薦最新的：Bollbas, Random Graphs.
基於極值圖論的一個比較新的方向：Lovasz, Large Networks and Graph Limits.
偏向數論的：T. Tao, V. Vu, Additive Combinatorics.
另外我看到標簽有人工智能，題主可能是做CS或者TCS的，那個方向的隨機圖的套用我不是很清楚，不好意思。我個人主要關註於數的分布的隨機性還有隨機圖本身的拓撲性質。
