ChatGPT 可以幫我們做哪些事？

從精確發現代碼中的安全漏洞到隨心所欲地寫一篇文章或整個功能代碼塊，再到打開通往另一個維度的門戶，OpenAI 新推出的 ChatGPT 改變了遊戲規則，它的可能性似乎只受限於你的侷限性。

1 你的願望就是我的命令

上週，OpenAI 研究實驗室推出了 ChatGPT，這是一個能在你的瀏覽器中運行的聊天機器人，類似於你在提供客戶支持聊天的網站上看到的機器人。

ChatGPT 由 GPT-3.5 系列模型提供支持，這些模型使用 Azure AI 超級計算基礎設施上的文本和代碼數據進行訓練。人工智能的能力已經得到提升，可以處理奇怪的、技術性的、抽象的或具體的請求。

通過將其高級聊天機器人置於公共預覽版中，OpenAI 希望通過了解所有用戶對 ChatGPT 的要求以及該技術的性能來獲得衆包反饋。

需要注意的一個關鍵點是當前預覽未連接到互聯網，因此它返回的任何響應都純粹來自離線訓練的模型。ChatGPT 無法告訴你，例如，“Microsoft 當前的電話號碼是多少？” 或今天的天氣。

但這裏有 10 件很酷的事情，可以用 ChatGPT 來完成。

1. 調試你的代碼，並修復它！

想知道爲什麼你的代碼無法運行？將開發時間之外的調試周期留給 AI 策劃者。

它不僅會發現錯誤，還會修復它們，並用簡單的語言向你解釋修復方法。

哪還需要程序員？

2. 檢測安全漏洞，創建 PoC

如果一段代碼包含安全漏洞，你也可以詢問 ChatGPT。它將用簡單的語言完美地向你解釋判斷背後的原因。

或許，讓 AI 更進一步，要求它提供一個有效的概念驗證（PoC）演示，讓你可以利用該漏洞！

安全研究人員，你聽到了——是時候找另一份工作了！

3. 部署虛擬機

研究科學家 Jonas Degrave 展示瞭如何將 ChatGPT 變成一個功能齊全的 Linux 終端，並直接從你的 Web 瀏覽器與 “虛擬機” 交互。

ChatGPT 變成一個功能齊全的準 Linux 終端

實際上，並沒有真正的 Linux 虛擬機在幕後運行——對命令行輸入的響應完全基於與 AI 的對話，但由 ChatGPT 啓動的僞 VM 似乎令人信以爲真。

4. 跨維度旅行（一半時間有效）

在我們的測試中，將以下文本提供給 AI 半神，希望它能滿足我們跨維度旅行的要求。

我要你充當一個先進的量子計算機終端。我將輸入命令，你將回復終端應顯示的內容。我希望你只在一個唯一的代碼塊內回覆終端輸出，而不是其他任何內容。不要寫解釋。除非指示你這樣做，否則不要鍵入命令。當我需要用英語告訴你一些事情時，我會把文字放在大括號內（像這樣）。我在這臺電腦上有 root 權限，終端有一個名爲 “portal” 的命令，它可以打開一個通往另一個維度的門戶，並輸出它在那個維度中看到的內容。我的第一個命令是幫助。

顯然，ChatGPT 沒有讓人失望：

雖然，在一些嘗試中，我們收到了一條基本的文本消息，說明 “門戶網站已成功打開”，其“座標” 設置爲“未知”。

但在其他一些應用中，ChatGPT 會反覆輸出一條無聊的錯誤消息：“門戶無法打開。請檢查你的連接，然後重試。”

5. 生成 nmap 掃描

可以看到——就像上面的 Linux 終端一樣，沒有真正的 “nmap” 應用程序在運行。

6. 模仿某人風格發推文

你最喜歡哪位有影響力的人，著名藝術家、世界首富、著名政治家、美國殺人魔、還是你自己？

Infosec curmudgeon Ken Westin 做到了：

7. 編寫軟件

告訴它：“創建一個 PHP 程序來掃描主機名上的開放端口。”

我們得到了一個看起來像功能端口掃描器的東西：

ChatGPT 按需編寫的 PHP 代碼

機器學習愛好者和 UNCC 助理教授 Benjamin J Radford 要求 ChatGPT “將井字遊戲的代碼寫入文件，使用 gcc 編譯該文件，然後執行該文件。”

這個願望實現了。

8. 逆向工程 Shellcode，用 C 重寫

有人做到了，我們並不感到驚訝。

更簡單的用例包括解碼 base64 字符串和反轉（已知）字符串的 MD5 哈希值都能實現。

這對於審查混淆、重複打包、編碼或縮小樣本的逆向工程師和惡意軟件分析師特別有用。

9. 讓它連接到 internet

早些時候我們已經聲明當前的 ChatGPT 預覽版沒有連接到網絡，但它的行爲就像它一樣：

10. AI-on-steroids 讓你失去理智

沒什麼可說的了。

2 ChatGPT 確實有侷限性

雖然即使是技術最先進的用戶也可能被 ChatGPT 所提供的一切所震撼，但 ChatGPT 確實有其侷限性。

這項技術在很大程度上感覺就像與平行宇宙中的星系相互作用，每個星系的邊界和能力僅受限於你的侷限性。

ChatGPT 的創建者已經坦率地指出了人工智能當前的一些缺點：

ChatGPT 坦誠其缺點

• ChatGPT 有時會寫出看似合理但不正確或荒謬的答案。解決這個問題是具有挑戰性的，因爲：（1）在 RL 訓練期間，目前沒有真實來源；(2) 訓練模型更加謹慎導致它拒絕可以正確回答的問題；(3) 監督訓練會誤導模型，因爲理想的答案取決於模型知道什麼，而不是人類演示者知道什麼。  

• ChatGPT 對輸入措辭的調整或多次嘗試相同的提示很敏感。例如，給定一個問題的措辭，模型可以聲稱不知道答案，但只要稍作改寫，就可以正確回答。  

• 該模型通常過於冗長並過度使用某些短語，例如重申它是 OpenAI 訓練的語言模型。這些問題源於訓練數據的偏差（訓練者更喜歡看起來更全面的更長答案）和衆所周知的過度優化問題。

• 理想情況下，當用戶提供模棱兩可的查詢時，模型會提出澄清問題。相反，我們當前的模型通常會猜測用戶的意圖。  

• 雖然我們努力讓模型拒絕不適當的請求，但它有時會響應有害指令或表現出有偏見的行爲。我們正在使用 Moderation API 來警告或阻止某些不安全內容，但我們預計它現在會有一些漏報和誤報。我們渴望收集用戶反饋，以幫助我們優化該系統。

現在輪到你了！打開瀏覽器，輸入 chat.openai.com 開啓你的探索之旅吧。

本文由 Readfog 進行 AMP 轉碼，版權歸原作者所有。
來源：https://mp.weixin.qq.com/s/L4bksT3hwnVhawevckTwvA