周健     
巴黎的國際科學理事會下屬的未來科學中心的專家們最近討論了科學界面對人工智慧（AI）融入的關鍵問題，他們基於一個國家如何將AI的發展納入一個健全的研究生態系統的角度，思考和討論了這方面的問題，其中一些觀點頗具前瞻性。這對於當前如日中天的AI研究和開發而言，不失為一個有效的助推器。無論是政府官員，科學家，工程師，教師，學生或其他相關人員，或許都能從這些問題中獲得某些新的認知或啟示。
1.優先順序設置。我們必須找到方法，確定AI發展和科學界吸納的戰略部門。機制可能包括籌資、基礎設施發展和能力建設等方案。 2.AI能力會取代科學資助決策中的科學價值嗎？AI強度可能成為決定資源分配和決定科學發現軌跡的一個不恰當的決定因素。它的突出性可能會關閉不使用它的研究領域。研究內部的競爭可能不是一個價值問題，而是一個獲取AI的問題。這可能存在決策不當和研究資金進一步集中的風險。 3.AI在資源分配中的應用。AI依賴於從現有材料中獲得的機器學習，它可能會產生固有的保守性的意見，並重現舊的偏見。 4.AI對評估小組的影響。AI驅動的科學傾向於是跨學科的，因為AIs不知道學科的邊界。今天的領域專家小組可能無法充分審查它，儘管最近有許多人呼籲科學應該更多的跨學科。 5.在科學界提高AI技能。需要為各級的學習者和從業者提供廣泛、但有差異化的AI技能發展。重要方面包括AI教育、特定領域使用的培訓、倫理和跨學科能力。教學還必須認識到，這是一個快速發展的主題。 6.AI研究的多樣性。有必要確保人工勞動力的性別、種族和文化多樣性，為了公平、並提高研究品質和其他結果。機器學習可以重現現有的不平等現象。我們必須為學科和跨學科的高等教育制定正確的激勵措施。 7.公共科學部門的人才保留。公共部門的科學，包括大學和研究中心，需要獲取和留住人才。因為私營部門對人工智慧技能的需求強烈。不同尋常的是，這是一個私營部門可以提供有趣的工作崗位和高薪的領域。 8.發展適合科學的雲計算。對雲計算和研究數據存儲庫的不確定資金限制了科學的進步。在缺乏公共雲容量的情況下，較富裕的研究機構可能會與私人公司簽訂合同，從而限制其研究數據的共用，並將不那麼富裕的機構拋在身後。 9.數字鴻溝是演算法鴻溝。我們必須確定個人、群體、學術學科、組織和地點之間的AI獲取的不平等，如何導致較差的研究結果。 10.AI的科學工具的開發。我們必須確定什麼樣的夥伴關係，將鼓勵開發適合專門研究機構的AI工具。我們如何確保新的AI技術不是僅僅由AI和機器學習社區驅動，而是與所有研究社區共同開發？ 11.法律制度之間的差異。我們需要評估國家之間，治理和數據保護的司法差異如何影響國際研究與合作。 12.對科學和研究工作的影響。有必要監測AI的進步如何影響科學工作的數量和性質。 13.連續的AI訓練。有必要為科學家和研究人員開發跟上AI工作進度的方法，以產生更好的研究成果，並儘量減少失業人數。可能需要有專業的AI培訓師和教師。例如，以幫助用戶理解AI提出的倫理問題。 14.AI對科學網路安全的影響。科學機構必須確保盡可能最好的網路健康狀態，確保合作夥伴、組織的安全，並控制來自個人的網路安全風險。他們如何保護設施免受知識產權盜竊、獲取私人和敏感數據以及為了贖金的攻擊？為了保護數據的品質和完整性，需要控制對存儲庫的訪問，以及高素質的人員、強大的合作夥伴關係和適當的構建環境。 15.當前科學的原理和價值。AI可能會在定義當今科學的一些核心原則和價值觀之間產生緊張關係。這些矛盾可能包括開放與嚴謹；隱私和保密與開放科學；大量數據與高質量數據；以及可解釋性與“黑箱”的兩難結果。 16.結果的可靠性和可解釋性。在科學、科學領域和其他活動中，缺乏對AI的信任，可能會給其融入科學帶來挑戰。但不加批判的信任，將導致對AI技術及其產生的結果的潛在危險的過度依賴。AI傾向於產生規範的結果，而不是開創性的見解，因為它是基於現有的知識和現有的觀點。 17.可重現性。今天的科學已經有了嚴重的可重複性問題。我將如何使它們惡化或康復？為了提高AI的再現性，它需要更加透明，提供更多關於代碼、底層數據和實驗設計的資訊。這既適用於AI的研究，也適用於使用AI的研究。 18.結果的可解釋性。科學方法要求科學主張可以解釋和理解。一些流行的AI方法就像一個黑箱一樣。因此不可能說它們是如何得出結論的，也不可能識別虛假的相關性或因果關係。 19.數據使用倫理。大數據和AI的使用，使當今的同意和人類研究參與者的概念以及數據收集和使用的方式變得複雜。AI倫理和審查委員會關注人類的主題。除了履行其目前的重要作用外，它們還應該能夠審查對更廣泛的社會可能造成的危害。 20.負責任。當錯誤的行為可以追溯到AI時，我們必須確定誰應該對製造、偽造、剽竊和其他不良行為負責。如果AI有一個明顯的所有者，答案可能很簡單；但在未來，如果沒有一個明確的所有者時，我們應該如何處置？ 21.利益衝突。我們需要看看隨著AI的擴散，是否會出現新的利益衝突。目前的利益衝突政策可能不包括它們在內。 22.對貢獻者和作者的認可。研究人員必須解釋AI是如何被用於生產研究產出的。 23.AI與學術不端。出版商必須確定是否應該使用AI來檢測非AI產生的製造、偽造和剽竊。 24.精確性。更大的數據集更適合訓練AIs，但它們也更有可能基於可用數據（過擬合）產生回應，或包含可能導致錯誤或誤導性結果的不准確和偏差。來源錯誤的數據、弗蘭肯斯坦數據集和有偏見的數據集已經對科學產生了危險的影響。這個問題需要在各個層面得到解決，從治理和管理到操作使用。 25.偏見和排斥。雖然AI特別是大型語言模型，在數據中使用“偏差”（統計相似性）來產生結果，但重要的是要管理訓練數據，以避免特定群體和區域的進一步邊緣化。數字排斥導致了數據上的缺口。此外，我們如何代表那些離線的人？ 26.數據的學科導向與AI研究的跨學科性質。大多數的科學知識都來自於一個特定的學科。我們需要編碼和使用它，同時實現領域之間的通信，並允許跨學科知識產生和存在。 27.數據編碼和注釋。AIs，特別是大型語言模型，需要人類對他們使用的數據進行編碼和注釋。這些個體必須意識到在注釋過程中在數據中嵌入文化差異的風險。 28.開放數據與AI的安全性。獲取高質量的數據對科學領域的AI的發展至關重要。但公眾利益，以及個人利益，呼籲建立治理結構來保護隱私，並保證數據的使用符合倫理規則。 29.訪問與利益。發展科學AI所需的許多數據將不屬於開放數據倡議的範圍，例如私營部門持有的數據。支持訪問和保持商業優勢之間的緊張關係，可能導致高質量的數據被保密。 30.數據基礎設施。科學的發展需要實踐的協調和社區的發展。目前關於生產和使用數據的規範和做法，在不同學科和機構之間有所不同。隨著科學組織增加他們的數據管理和存儲容量，他們將需要增加存儲庫之間的互操作性。 31.來源數據標準。必須適當地披露和評估培訓數據的來源。一個特別關注的問題是數據和數據源的倫理方面，以及它對AI中的偏見的影響。 32.質量數據標準。應實施技術標準、認證和合規性，以確保在科學中使用的數據得到適當的管理和存儲。 33.用AI進行的研究的法律責任。我們必須協調傳統的責任制度與業務流程和產出，以及其不同程度的自主性和透明度。在什麼情況下，AI，而不是它的製造者，會對自己的行為負責？ 34.如何對機器生成的創作進行版權或專利保護？對AI生成的、創作的版權保護的資格和適當性的不確定性，可能導致使用專利或貿易保密技術來保護知識產權。這將減少公眾對AI專案的積極和消極的寶貴成果的評價。 35.數字數據的保護和使用。文本和數據挖掘可能存在通過創建未經授權的副本而侵犯版權的風險，並可能違反網站和數據庫的條款。英國正在為文本和數據挖掘創建一個版權例外規則，其他司法管轄區可能會遵守。為數據挖掘的作品可以受到版權保護，但數據本身通常只有是原始數據集的一部分時才會受到保護。這可能會導致使用商業秘密來保護數據。歐盟保護從受保護的資料庫中提取的數據用於科學研究。但數字數據的無國界特徵加劇了司法管轄區之間的緊張關係。 36.在國內的監管環境。國內監管將是不同考慮和需求之間的平衡。在這些平衡中，各國必須為其科學和研究部門創造有利條件，並為共同利益而努力。 37.監管在其他司法管轄區的影響。觀察其他國家的行動，可能導致跳躍和統一規定；或者，監管的不確定性，可能導致一些法律制度通過不那麼嚴格的監管來尋求競爭優勢，從而損害創造國家的國家利益。